Các tin tặc được nhà nước hậu thuẫn từ Nga, Trung Quốc và Iran đã sử dụng các công cụ OpenAI để trau dồi kỹ năng và tấn công hack. Theo báo cáo của Microsoft, các chuyên gia của công ty đã theo dõi các nhóm hack có liên quan đến tình báo quân đội Nga, Lực lượng Vệ binh Cách mạng Hồi giáo, cũng như chính phủ Trung Quốc và Triều Tiên, những nhóm đang cố gắng cải thiện chiến dịch hack của họ với sự trợ giúp của các mô hình ngôn ngữ lớn.
Công ty đã công bố phát hiện này khi đưa ra lệnh cấm toàn diện đối với các nhóm hack được nhà nước hậu thuẫn sử dụng các sản phẩm AI của mình. Phó chủ tịch nói: “Chúng tôi chỉ không muốn những thực thể mà chúng tôi đã xác định – chúng tôi giám sát và biết rằng chúng gây ra nhiều mối đe dọa khác nhau – chúng tôi không muốn chúng có quyền truy cập vào công nghệ này”. Microsoft của Bộ phận An ninh Khách hàng Tom Burt. Báo cáo đề cập đến các nhóm hacker như Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon và Salmon Typhoon.
Tuyên bố rằng tin tặc đã bị bắt khi sử dụng các công cụ này AI để nâng cao khả năng gián điệp của mình, nêu bật mối lo ngại về sự lan truyền nhanh chóng của công nghệ và khả năng lạm dụng của nó. Các chuyên gia an ninh mạng phương Tây đã cảnh báo vào năm ngoái rằng tội phạm đang lạm dụng những công cụ như vậy, mặc dù cho đến nay vẫn chưa có dữ liệu cụ thể về điều này.
Bob Rothstead, người đứng đầu bộ phận tình báo mối đe dọa an ninh mạng tại OpenAI cho biết: “Đây là một trong những trường hợp đầu tiên, nếu không phải là lần đầu tiên, một công ty AI thảo luận công khai về cách những kẻ tấn công sử dụng công nghệ AI”.
OpenAI và Microsoft mô tả việc tin tặc sử dụng các công cụ AI của họ là "giai đoạn đầu" và "gia tăng". Theo Burt, cả hai công ty đều chưa thấy gián điệp mạng tạo ra bất kỳ bước đột phá nào: "Chúng tôi thấy họ chỉ sử dụng công nghệ như bất kỳ người dùng nào khác".
Báo cáo mô tả các nhóm hack sử dụng các mẫu ngôn ngữ lớn theo nhiều cách khác nhau. Cơ quan này cho biết các tin tặc, được cho là đang làm việc thay mặt cho trò chơi của Nga, đã sử dụng các mô hình này để điều tra “nhiều công nghệ radar và vệ tinh khác nhau có thể liên quan đến các hoạt động quân sự ở Ukraine”. Microsoft. Và tin tặc Triều Tiên đã sử dụng các mô hình này để tạo ra nội dung “có thể được sử dụng trong các chiến dịch lừa đảo”.
Các hacker Iran cũng dựa vào các mô hình để viết email thuyết phục hơn. Và các hacker Trung Quốc được nhà nước hỗ trợ, theo họ Microsoft, đang thử nghiệm các mô hình ngôn ngữ lớn để đặt câu hỏi về các dịch vụ tình báo cạnh tranh, các vấn đề an ninh mạng và "những nhân vật nổi bật".
Đọc thêm: