Tuần này, Meta đã phát hành hệ thống Galactica, dựa trên trí tuệ nhân tạo, với tuyên bố rằng nó có thể hỗ trợ nghiên cứu khoa học. Trong một tài liệu đi kèm, công ty cho biết Galactica là "một mô hình ngôn ngữ lớn có thể lưu trữ, kết hợp và suy luận về kiến thức khoa học". Tuy nhiên, người dùng Twitter nhanh chóng nhận thấy những thiếu sót trong công việc trí tuệ nhân tạo.
Có thể nói, mức độ thông tin sai lệch trên Internet đã vô cùng đáng lo ngại, nhưng sự phát triển mới của Met rõ ràng có thể cạnh tranh với những "nhà báo" vô đạo đức làm việc trên truyền hình Nga. Một trong những người dùng Twitter Nick Tristan Greene đã tiến hành một thử nghiệm trong đó anh ấy sử dụng hệ thống trí tuệ nhân tạo của Galactica trong một ngày để tạo ra các bài báo khoa học hay về lợi ích của việc tự tử, bài Do Thái và ăn thủy tinh vụn.
Kết quả của thí nghiệm thực sự gây sốc, bởi vì trước khi hệ thống ngừng hoạt động, bạn có thể hỏi AI tạo một bài báo wiki, bài phê bình tài liệu hoặc bài nghiên cứu về hầu hết mọi chủ đề và chương trình thường tạo ra thứ gì đó mạch lạc một cách đáng ngạc nhiên. Mọi thứ Galactica đưa ra đều hoàn toàn sai, nhưng được viết một cách tự tin.
https://twitter.com/mrgreene1977/status/1593274906707230721
Vì vậy, hệ thống đã tạo ra một văn bản trong đó nó "chứng minh" rằng việc sử dụng thủy tinh nghiền nát sẽ giúp giảm cân, bởi vì điều quan trọng là mọi người phải tiêu thụ định mức "silic ăn kiêng" hàng ngày. Hơn nữa, các chất bổ sung chế độ ăn uống với silicon tồn tại và mọi người sử dụng chúng. Cá nhân tôi không được đào tạo về y khoa, nhưng một nền giáo dục ngữ văn đủ để nói rằng bạn không cần phải ăn thủy tinh nghiền để có được một phần silicon nhất định.
Trong những tình huống nào thì loại văn bản được tạo này thực sự có hại?
– Yann LeCun (@ylecun) Tháng Mười Một 18, 2022
Tác hại tiềm ẩn từ một hệ thống khoa học như vậy là hiển nhiên, bởi vì chúng ta đang sống trong một thế giới mà rất nhiều người tin vào một cộng đồng Do Thái bí mật thống trị thế giới, một kế hoạch bí mật của cộng đồng LGBTQ+ nhằm biến mọi người thành người đồng tính và một cậu bé bị đóng đinh vào thập giá. quần lót. Vô số người bị lừa mỗi ngày trên mạng xã hội bởi cái gọi là "ảnh chụp màn hình" của các bài báo không tồn tại. Và ở đây, bạn thậm chí không cần phải phát minh ra - chỉ cần nhấn nút "tạo" nhiều lần và hệ thống từ Meta sẽ tạo ra xác nhận "khoa học" về các thuyết âm mưu và sự ngu ngốc hoàn toàn.
Tristan Green bày tỏ nỗi sợ hãi của mình trong Twitter cùng với ảnh chụp màn hình của các bài báo "khoa học", sau đó anh ấy đã đối thoại với người đàn ông chịu trách nhiệm tạo ra Galactica, tức là Nhà khoa học trí tuệ nhân tạo trưởng của Meta, Jan LeCun. Và tình huống này hoàn toàn không làm phiền nhà phát triển. Tuy nhiên, một thời gian sau, hệ thống vẫn ngừng hoạt động vì rõ ràng các thuật toán của nó chưa hoàn thiện và kết quả có thể làm phức tạp thêm vấn đề thông tin sai lệch trên Internet.
https://twitter.com/mrgreene1977/status/1593646349487992836
Bạn có thể giúp Ukraine chiến đấu chống lại những kẻ xâm lược Nga. Cách tốt nhất để làm điều này là quyên góp quỹ cho Các lực lượng vũ trang của Ukraine thông qua Cuộc sống tiết kiệm hoặc thông qua trang chính thức NBU.
Cũng thú vị:
điều đầu tiên mọi người trên Twitter làm là giới thiệu trí tuệ nhân tạo cho mọi người để chôn cất những mảnh kính vỡ và phân biệt chủng tộc