Theo một phụ huynh đã đăng ảnh chụp màn hình lịch sử hoạt động của Alexa, trợ lý giọng nói của Amazon, khi được một đứa trẻ yêu cầu đưa ra một thử thách, đã đưa ra một ví dụ về một thí nghiệm chết người với điện, đưa mô tả của nó ra khỏi ngữ cảnh của một bài báo ngẫu nhiên. Chuyên mục Echo đã nói về một thử nghiệm phổ biến đối với những người hâm mộ TikTok với việc sử dụng đồng xu và bộ sạc cho điện thoại thông minh - nhiều sự cố, thương tích và hỏa hoạn sau khi thực hiện đã được nhiều phương tiện truyền thông đưa tin hơn một lần. Rõ ràng, thiết bị lấy ý tưởng cho thử thách này từ một bài báo mô tả nó là nguy hiểm, trích dẫn một báo cáo về một thử thách TikTok được cho là đang tồn tại.
Theo một bức ảnh chụp màn hình được chụp bởi Christine Livdahl, khi được yêu cầu "cho tôi xem một nhiệm vụ", Echo trả lời, "Đây là thứ tôi tìm thấy trên mạng." Theo ourcommunitynow.com, nhiệm vụ rất đơn giản: "cắm một nửa bộ sạc điện thoại vào ổ cắm, sau đó chạm vào các chân trần bằng một xu."
Trong một tuyên bố với BBC, Amazon đã xác nhận hành vi của Alexa, nói rằng: "Ngay sau khi chúng tôi nhận thức được lỗi này, chúng tôi đã có hành động ngay lập tức để khắc phục". Livdahl đã tweet vào ngày hôm qua rằng yêu cầu thử thách không còn hoạt động nữa. Người dùng trên Web cũng đã thử nghiệm yêu cầu này với Alexa và nhận được kết quả tương tự.
OMFG Cô bé 10 tuổi của tôi vừa hỏi Alexa trên Echo của chúng tôi về một thử thách và đây là những gì cô ấy nói. pic.twitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) 26 Tháng mười hai, 2021
Amazon không phải là công ty duy nhất gặp sự cố khi phân tích nội dung web. Vào tháng , một người dùng đã báo cáo rằng Google đang hiển thị lời khuyên nguy hiểm tiềm ẩn trong một trong các đoạn mã của nó nếu bạn nhập "bạn đang bị động kinh, phải làm gì" vào Google - thông tin được lấy từ một phần của trang web mô tả những gì không để làm gì nếu ai đó bị co giật. Tuy nhiên, người dùng đã báo cáo các vấn đề tương tự khác, bao gồm một người dùng đã báo cáo rằng Google trả lại kết quả cho hạ huyết áp thế đứng khi tìm kiếm chứng tăng huyết áp thế đứng và một người khác đã đăng ảnh chụp màn hình của Google cho thấy lời khuyên khủng khiếp để an ủi một người đang đau buồn cùng dòng "Rất vui vì bạn 'không sao cả "hoặc" Đừng buồn! Cổ vũ!".
Tóm tắt tìm kiếm của Google so với trang thực tế pic.twitter.com/OJxt1FrBqh
— soft.linden (｡·̀ᴗ-)✧ (@soft) 16 Tháng Mười
Chúng tôi cũng đã thấy những cảnh báo về hành vi nguy hiểm khiến vấn đề trở nên nghiêm trọng hơn - vào đầu tháng này, một số khu học chánh ở Hoa Kỳ đã bị khóa sau khi có báo cáo về những lời đe dọa bắn súng trên TikTok. Hóa ra cơn bão mạng xã hội được gây ra chủ yếu bởi việc mọi người nói về các mối đe dọa, nhiều hơn là những mối đe dọa thực sự tồn tại. Trong trường hợp của Alexa, thuật toán đã chọn phần mô tả của cảnh báo và khuếch đại nó mà không có ngữ cảnh ban đầu. Dù phụ huynh có mặt can thiệp ngay lập tức nhưng cũng dễ hình dung ra tình huống không đâu vào đâu và hậu quả ra sao.
Livdahl đã tweet rằng cô ấy đã sử dụng cơ hội để "thảo luận về an toàn internet với con mình và không tin tưởng những gì bạn đọc mà không có nghiên cứu và xác minh", điều mà chúng tôi khuyên bạn nên làm như vậy.
Đọc thêm: