Ý tưởng về trí tuệ nhân tạo lật đổ nhân loại đã được tranh luận trong nhiều thập kỷ, và vào tháng 2021 năm , các nhà khoa học đã đưa ra phán quyết của họ về việc liệu chúng ta có thể kiểm soát siêu trí tuệ máy tính cấp cao hay không. Đáp lại? Gần như chắc chắn là không.
Vấn đề là việc điều khiển một siêu trí tuệ vượt xa tầm hiểu biết của con người sẽ đòi hỏi một mô phỏng của siêu trí tuệ đó mà chúng ta có thể phân tích. Nhưng nếu chúng ta không thể hiểu nó, thì không thể tạo ra một mô phỏng như vậy.
Các quy tắc như "không gây hại cho con người" không thể được thiết lập trừ khi chúng ta hiểu được những kịch bản mà trí tuệ nhân tạo (AI) sẽ đưa ra, các tác giả của một bài báo năm 2021 tin tưởng. Ngay sau khi hệ thống máy tính hoạt động ở mức vượt quá khả năng của các lập trình viên của chúng tôi, chúng tôi sẽ không thể đặt giới hạn nữa.
Các nhà nghiên cứu viết: "Trí tuệ siêu việt là một vấn đề khác về cơ bản so với những vấn đề thường được nghiên cứu dưới cái tên 'đạo đức người máy'". "Điều này là do supermind có nhiều mặt và do đó có khả năng huy động nhiều nguồn lực khác nhau để đạt được các mục tiêu mà con người không thể hiểu được, chưa nói đến có thể kiểm soát được."
Một phần lý do của nhóm đến từ vấn đề dừng lại, do Alan Turing đề xuất vào năm 1936. Thách thức là tìm ra liệu chương trình máy tính sẽ đưa ra kết luận và trả lời (và dừng lại) hay cứ quẩn quanh mãi để tìm ra câu trả lời.
Như Turing đã chứng minh với sự giúp đỡ toán học thông minh, mặc dù chúng ta có thể biết điều này đối với một số chương trình cụ thể, nhưng về mặt logic thì không thể tìm ra cách cho phép chúng ta biết điều này cho mọi chương trình tiềm năng có thể được viết. Điều này đưa chúng ta trở lại với AI, ở trạng thái siêu thông minh có thể lưu trữ tất cả các chương trình máy tính có thể có trong bộ nhớ của nó cùng một lúc.
Cũng thú vị:
- OpenAI dạy trí tuệ nhân tạo chuyển đổi lệnh thành mã chương trình
- Trí tuệ nhân tạo sẽ tìm kiếm sóng hấp dẫn
Ví dụ, bất kỳ chương trình nào được viết ra để ngăn chặn AI gây hại cho con người và hủy diệt thế giới có thể có hoặc không thể đưa ra kết luận (và dừng lại) - về mặt toán học thì không thể chắc chắn một cách tuyệt đối, có nghĩa là nó không thể bị hạn chế. Nhà khoa học máy tính Iyad Rahwan thuộc Viện Phát triển Con người Max Planck ở Đức cho biết: “Về cơ bản, nó khiến thuật toán răn đe không thể sử dụng được.
Các nhà nghiên cứu cho biết, một giải pháp thay thế cho việc giảng dạy đạo đức AI và những điều cấm chống lại việc phá hủy thế giới, điều mà không thuật toán nào có thể chắc chắn hoàn toàn là hạn chế khả năng của siêu trí tuệ. Ví dụ, nó có thể bị cắt khỏi một phần của Internet hoặc một số mạng nhất định.
Các tác giả của một nghiên cứu gần đây cũng bác bỏ ý tưởng này, tin rằng nó sẽ giới hạn phạm vi của trí tuệ nhân tạo - họ nói, nếu chúng ta không sử dụng nó để giải quyết các vấn đề vượt quá khả năng của con người, thì tại sao lại tạo ra nó?
Nếu chúng ta định phát triển trí thông minh nhân tạo, chúng ta thậm chí có thể không biết khi nào một trí tuệ siêu việt sẽ xuất hiện, nằm ngoài tầm kiểm soát của chúng ta, đến mức khó có thể hiểu được. Điều này có nghĩa là chúng ta cần bắt đầu đặt những câu hỏi nghiêm túc về vị trí của chúng ta.
Nhà khoa học máy tính Manuel Kebrian thuộc Viện Phát triển Con người Max Planck cho biết: “Một cỗ máy siêu thông minh vận hành thế giới nghe giống như khoa học viễn tưởng. Nhưng đã có những máy thực hiện độc lập một số tác vụ quan trọng, trong khi các lập trình viên không hiểu hết cách họ học được điều này.
Do đó, câu hỏi được đặt ra là liệu đến một lúc nào đó, nó có thể trở nên mất kiểm soát và nguy hiểm cho nhân loại ...
Đọc thêm:
- Trí tuệ nhân tạo đã quản lý để tái tạo một bức tranh Picasso đã vẽ
- Trí tuệ nhân tạo sẽ giúp dự đoán tai nạn đường bộ trước khi chúng xảy ra