© ROOT-NATION.com - Bài viết này đã được dịch tự động bởi AI. Chúng tôi xin lỗi vì bất kỳ sự không chính xác nào. Để đọc bài viết gốc, hãy chọn English trong trình chuyển đổi ngôn ngữ ở trên.
Trong cuộc cách mạng AI, thật khó tin rằng chúng ta đang chứng kiến một điều gì đó thực sự mang tính đột phá. Và đó không phải là về chính trị — mà là về toán học. Vấn đề nằm ở ảo giác AI.
Hãy tưởng tượng một thế giới mà máy tính đôi khi sẽ nói 2+2=5. Hoặc phần mềm kế toán tạo ra các giao dịch chưa bao giờ xảy ra. Nghe có vẻ vô lý, phải không? Nhưng đây chính là thế giới mà chúng ta đang bước vào với cuộc cách mạng AI ngày nay.
Ngay từ đầu kỷ nguyên số, có một điều chắc chắn là — máy tính có thể bị hỏng, máy in có thể hoạt động không bình thường và người dùng có thể phát điên vì màn hình xanh chết chóc. Nhưng qua tất cả, họ được tin tưởng để làm một việc hoàn hảo: thực hiện các phép tính. Nền tảng niềm tin đó, được xây dựng trong nhiều thập kỷ, hiện đang bị xói mòn dần dần bởi những gì các chuyên gia gọi là ảo giác AI.
Lịch sử máy tính không bắt đầu từ phương tiện truyền thông xã hội hay trò chơi điện tử, mà từ nhu cầu thực hiện các phép tính phức tạp. Máy tính điện tử đa năng đầu tiên, ENIAC, chiếm một căn phòng có kích thước 7 x 13 mét và chứa gần 18,000 ống chân không cùng với hàng nghìn rơle. Cỗ máy khổng lồ này được phát triển để tính toán bảng bắn pháo và hỗ trợ công việc chế tạo bom khinh khí. Nó có thể thực hiện 5,000 phép cộng, 350 phép nhân hoặc 40 phép chia mỗi giây—nhanh hơn bất kỳ thứ gì có thể tưởng tượng được vào thời điểm đó.
Hơn 75 năm đã trôi qua kể từ đó, và máy tính đã trải qua một sự chuyển đổi mạnh mẽ. Từ những gã khổng lồ có kích thước bằng cả một căn phòng, chúng đã phát triển thành những thiết bị đủ nhỏ để có thể bỏ vừa trong túi của chúng ta. Tuy nhiên, bất chấp tất cả các cuộc cách mạng công nghệ, mục đích cốt lõi của chúng vẫn không thay đổi—trên hết, máy tính là những cỗ máy được chế tạo để tính toán.
Đọc cũng: Chủ nghĩa phong kiến công nghệ – Một hình thức trật tự thế giới mới
Excel – toán học bạn có thể tin cậy
Một ví dụ tốt về tính liên tục này là Microsoft Excel—một chương trình mà về bản chất vẫn là một máy tính trực quan tiên tiến. Trong nhiều thập kỷ, Excel đã trở thành xương sống của nền kinh tế toàn cầu, được mọi người sử dụng từ các doanh nghiệp nhỏ đến các tập đoàn đa quốc gia, từ ngân sách hộ gia đình đến các mô hình tài chính phức tạp của Phố Wall. Mặc dù có những lời chỉ trích và hạn chế, nhưng có một điều vẫn không thay đổi: các phép tính của nó đáng tin cậy.
Tất nhiên, lỗi cũng có thể xảy ra trong Excel. Một ví dụ phổ biến là thông báo #VALUE!, xuất hiện khi chúng ta cố gắng thực hiện các phép toán trên văn bản thay vì số. Nhưng—và đây là sự khác biệt chính—các lỗi như vậy luôn có nguyên nhân rõ ràng, có thể xác định được và cách khắc phục đơn giản. Quan trọng hơn, Excel không bao giờ đoán hoặc bịa ra kết quả. Công thức =SUM(A1:A10) sẽ luôn trả về cùng một đầu ra cho cùng một đầu vào, cho dù bạn đang chạy nó lần đầu tiên hay lần thứ một nghìn.
Bản chất xác định của phần mềm truyền thống đã củng cố niềm tin của chúng ta vào máy tính trong nhiều thập kỷ. Chúng ta có thể phàn nàn về giao diện người dùng, hiệu suất hoặc khả năng tương thích, nhưng chúng ta không bao giờ đặt câu hỏi về độ chính xác toán học của kết quả.
Đọc cũng: Kênh đào Panama: Lịch sử xây dựng và cơ sở tuyên bố của Hoa Kỳ
Ảo giác AI – khi toán học bắt đầu trở nên kỳ ảo
Và điều này đưa chúng ta đến vấn đề cốt lõi của cuộc cách mạng trí tuệ nhân tạo ngày nay. Các mô hình AI hiện đại—đặc biệt là các mô hình ngôn ngữ lớn (LLM)—về cơ bản khác với phần mềm truyền thống. Thay vì thực hiện các hoạt động cụ thể, xác định, chúng được thiết kế để nhận dạng các mẫu trong các tập dữ liệu lớn và tạo ra các phản hồi hợp lý dựa trên các mẫu đó.
Sự thay đổi cơ bản này trong kiến trúc dẫn đến cái mà các chuyên gia gọi là ảo giác AI—trường hợp các mô hình AI tạo ra thông tin có vẻ là thật nhưng hoàn toàn không chính xác hoặc không liên quan đến thực tế. Điều quan trọng là những ảo giác này không phải là lỗi ngẫu nhiên; chúng là kết quả của chính bản chất của các hệ thống này—tương tác phức tạp giữa dữ liệu đào tạo, xây dựng mô hình và cách mô hình diễn giải các truy vấn.
Khía cạnh đáng lo ngại nhất là ảo giác AI thường xuất hiện với cùng mức độ tin cậy như thông tin thực tế. Một mô hình có thể tự tin tuyên bố rằng Kyiv là thủ đô của Ukraine (điều này là đúng) và nơi đây đã tổ chức Thế vận hội Mùa hè năm 1995 (hoàn toàn là bịa đặt). Đối với người dùng, đặc biệt là người không chuyên, việc phân biệt sự thật với ảo giác có thể cực kỳ khó khăn.
Đọc cũng: Sử dụng hoặc mất nó: AI đang thay đổi suy nghĩ của con người như thế nào
Mức độ của vấn đề ảo giác
Mặc dù khó có thể thiết lập số liệu thống kê chính xác về tần suất ảo giác AI, các chuyên gia đồng ý rằng đây là vấn đề phổ biến ảnh hưởng đến tất cả các mô hình ngôn ngữ lớn. Các hệ thống dễ bị ảo giác nhất là các hệ thống thiếu cơ chế xác minh thông tin hiệu quả, dựa vào dữ liệu lỗi thời và không diễn giải đúng ngữ cảnh của truy vấn.
Nguyên nhân gây ra ảo giác rất phức tạp và nhiều lớp. Trong số các yếu tố chính, các chuyên gia chỉ ra:
-
Sự không hoàn hảo trong dữ liệu đào tạo: Nếu dữ liệu được sử dụng để đào tạo mô hình chứa lỗi, thông tin không chính xác hoặc mâu thuẫn, mô hình có thể lặp lại những vấn đề này hoặc tạo ra nội dung mới sai.
- Quá khớp của mô hình: Điều này xảy ra khi thuật toán thích ứng quá chặt chẽ với tập dữ liệu đào tạo, mất khả năng khái quát hóa và xác định chính xác các mẫu mới.
- Giả định sai trong thiết kế mô hình: Nếu các nhà phát triển AI thiết kế dựa trên những giả định không chính xác, mô hình có thể liên tục tạo ra ảo giác.
Các ví dụ cụ thể về hệ thống AI, đặc biệt dễ gây ảo giác, bao gồm các giải pháp của Trung Quốc như Qwen và DeepSeek. Mặc dù có những tiến bộ về mặt công nghệ, các mô hình này vẫn phải đối mặt với vấn đề này. Chúng thường tạo ra thông tin có vẻ hợp lý nhưng thực tế lại sai hoặc không phù hợp với thực tế, đặc biệt là trong bối cảnh dữ liệu có thể không đầy đủ hoặc mâu thuẫn.
Đọc cũng: Tất cả về Microsoft'S Majorana 1 Bộ xử lý lượng tử: Đột phá hay tiến hóa?
Vấn đề về lòng tin – 98% vẫn chưa đủ
Và ở đây chúng ta đi đến vấn đề cơ bản về lòng tin. Trong phần mềm truyền thống, lỗi là ngoại lệ, không phải là quy tắc. Trong trường hợp trí tuệ nhân tạo, ảo giác là một phần vốn có trong hoạt động của hệ thống. Ngay cả khi một mô hình tạo ra thông tin chính xác 98% thời gian, thì 2% còn lại vẫn là một vấn đề nghiêm trọng.
Hãy tưởng tượng sử dụng một máy tính cho kết quả đúng 98% thời gian, nhưng trong 2% trường hợp, nó đưa ra câu trả lời sai. Chúng ta có tin tưởng một thiết bị như vậy cho các nhiệm vụ như tính thuế, phát triển thuốc hoặc thiết kế cầu không? Câu trả lời rất rõ ràng.
Vấn đề ảo giác AI đặc biệt quan trọng trong các lĩnh vực đòi hỏi độ chính xác hoàn toàn và tính đúng đắn thực tế, chẳng hạn như y học, luật pháp, tài chính và kỹ thuật. Trong những lĩnh vực này, ngay cả khả năng xảy ra lỗi nhỏ nhất cũng có thể dẫn đến hậu quả thảm khốc.
Đọc cũng: Sự thay đổi kiến tạo trong AI: Là Microsoft Cược vào DeepSeek?
Excel so với trí tuệ nhân tạo: tính toán so với bịa đặt
Trong Excel, khi lỗi như #VALUE! xuất hiện, chương trình sẽ chỉ rõ rằng có điều gì đó không ổn. Nó không cố gắng đoán kết quả hoặc ẩn vấn đề. Hơn nữa, có những khuyến nghị cụ thể về cách giải quyết các lỗi như vậy — ví dụ, đảm bảo rằng tất cả các giá trị trong công thức toán học đều là số, không phải văn bản.
Mặt khác, trong trường hợp của hệ thống AI, khi mô hình không biết câu trả lời, nó thường tạo ra một phản hồi thuyết phục nhưng sai lệch thay vì thừa nhận sự thiếu hiểu biết của mình. Phần tệ nhất là người dùng thậm chí có thể không nhận ra rằng thông tin được cung cấp là ảo giác.
Theo SalesforceTrong báo cáo về tình trạng dữ liệu và phân tích, 9 trong số 10 (gần 87%) nhà phân tích và lãnh đạo CNTT đồng ý rằng tiến bộ trong trí tuệ nhân tạo đã đưa việc quản lý dữ liệu lên hàng đầu. Tuy nhiên, báo cáo này cũng nêu bật sự không chắc chắn của người trả lời về tính chính xác của dữ liệu và mối quan tâm về bảo mật dữ liệu trong bối cảnh AI.
Những người ủng hộ trí tuệ nhân tạo cho rằng vấn đề ảo giác có thể được giải quyết thông qua xác minh thông tin. Thật vậy, việc kiểm tra thực tế và xác thực đầu ra của các hệ thống AI đang trở thành hoạt động thiết yếu trong mọi tổ chức sử dụng các công nghệ này. Tuy nhiên, vấn đề là nhu cầu xác minh làm giảm đáng kể giá trị của các hệ thống này.
Hãy tưởng tượng tình huống này – chúng ta yêu cầu một trợ lý AI viết báo cáo về thị trường xe điện. Hệ thống tạo ra một tài liệu dài 20 trang chứa đầy số liệu thống kê, xu hướng và dự báo. Tài liệu trông chuyên nghiệp và chứa các lập luận thuyết phục. Vấn đề là chúng ta không biết phần nào của thông tin là chính xác và phần nào là kết quả của ảo giác AI. Để xác định điều này, chúng ta cần xác minh mọi số liệu thống kê, mọi tuyên bố, mọi sự kiện. Điều này có nghĩa là, trên thực tế, chúng ta đang thực hiện công việc mà hệ thống AI được cho là phải làm cho chúng ta.
Đây là nghịch lý cơ bản của cuộc cách mạng AI hiện tại – các hệ thống được cho là tiết kiệm thời gian cho chúng ta thường đòi hỏi thêm công sức để xác minh kết quả của chúng. Trong trường hợp sử dụng phần mềm truyền thống, như Excel, chúng ta chỉ có thể tin tưởng vào kết quả tính toán và tập trung vào việc diễn giải dữ liệu.
Đọc cũng: Tất cả về tiêu chuẩn và thông số kỹ thuật của USB
Thế giới AI không hoàn hảo về mặt toán học
Việc thiếu tin tưởng vào các hệ thống AI không phải là vấn đề sợ công nghệ hay chống đối sự thay đổi. Đó là phản ứng hợp lý đối với sự thay đổi cơ bản trong mối quan hệ giữa con người và máy tính. Trong nhiều thập kỷ, chúng ta đã xây dựng các mối quan hệ dựa trên độ tin cậy xác định của máy tính. Bây giờ, chúng ta đang bước vào kỷ nguyên của các mô hình xác suất, về bản chất, không thể đảm bảo cùng mức độ tin cậy.
Có lẽ cách chính xác nhất để mô tả điều này là thông qua phép so sánh với giao tiếp của con người. Phần mềm truyền thống giống như một cuốn bách khoa toàn thư – nó có thể không đầy đủ hoặc chứa thông tin lỗi thời, nhưng những gì được đưa vào có thể được coi là đã được chứng minh. Mặt khác, AI giống như một cuộc trò chuyện với một người sở hữu kiến thức ấn tượng nhưng không hoàn hảo – đôi khi họ mắc lỗi, đôi khi họ bị nhầm lẫn và đôi khi họ bóp méo sự thật.
Phép loại suy này, trong bối cảnh máy tính, biểu thị sự thoái lui cơ bản về độ tin cậy. Chúng ta luôn mong đợi độ chính xác cao hơn từ máy móc so với con người. Bây giờ, nghịch lý thay, chúng ta thấy mình cần phải xác minh kết quả do AI tạo ra với cùng sự thận trọng mà chúng ta sẽ áp dụng cho thông tin từ một cá nhân không xác định.
Đọc cũng: Là gì DeepSeek và Tại sao mọi người lại nói về nó?
Tìm kiếm độ tin cậy toán học
Điều này có nghĩa là chúng ta nên từ bỏ hoàn toàn trí tuệ nhân tạo không? Hoàn toàn không. Các hệ thống AI có tiềm năng to lớn trong nhiều lĩnh vực – từ việc tạo ra nội dung sáng tạo đến phân tích các tập dữ liệu khổng lồ. Vấn đề nằm ở chỗ chúng ta phải học một cách tiếp cận mới để làm việc với các hệ thống này, một cách tiếp cận thừa nhận những hạn chế cơ bản của chúng.
Hiện nay, nghiên cứu chuyên sâu đang được tiến hành để giảm ảo giác AI. Các giải pháp được đề xuất bao gồm cải thiện chất lượng dữ liệu đào tạo (dữ liệu càng tốt, khả năng ảo giác càng thấp), phát triển các phương pháp đào tạo minh bạch hơn (các mô hình dễ hiểu và có thể giải thích được ít có khả năng tạo ra thông tin sai lệch) và thúc đẩy các cơ chế kiểm tra thực tế (hệ thống tự động xác minh nội dung được tạo ra với các nguồn có thẩm quyền).
Đọc cũng: Phỏng sinh học: Cách thiên nhiên truyền cảm hứng cho các kỹ sư đổi mới
Đạo đức mới của thực tế kỹ thuật số
Cuộc cách mạng hiện tại trong trí tuệ nhân tạo không chỉ đòi hỏi các công cụ và phương pháp mới mà còn đòi hỏi một khuôn khổ đạo đức kỹ thuật số mới. Chúng ta cần phải suy nghĩ lại về ý nghĩa của lòng tin giữa con người và máy móc, ranh giới trách nhiệm đối với các lỗi do AI gây ra và cách bảo vệ bản thân khỏi thông tin sai lệch trong một thế giới mà ranh giới giữa sự thật và hư cấu ngày càng trở nên mờ nhạt.
Theo một Salesforce báo cáo khám phá sự tin cậy của dữ liệu trong thời đại AI, rủi ro bảo mật và việc thiếu sự hài hòa dữ liệu cản trở độ tin cậy của nó. Do đó, các công ty sử dụng dữ liệu dựa trên AI để đưa ra quyết định quan trọng coi các mối đe dọa bảo mật dữ liệu là mối quan tâm lớn nhất của họ.
Điều này đặc biệt quan trọng trong bối cảnh trí tuệ nhân tạo tạo ra, có nguy cơ rò rỉ dữ liệu của công ty vào các mô hình ngôn ngữ lớn công khai.
Đọc cũng: 10 ví dụ về cách sử dụng kỳ lạ nhất của AI
Thay vì một ngàn từ…
Tôi không nghi ngờ cuộc cách mạng AI hiện tại vì tôi không thấy tiềm năng của nó, mà vì tôi hiểu những hạn chế cơ bản của nó. Trong nhiều thập kỷ, chúng ta đã xây dựng nền văn minh số của mình trên nền tảng các phép tính đáng tin cậy—bắt đầu từ những chiếc máy tính cơ học đầu tiên, qua chiếc ENIAC đồ sộ, đến các bảng tính phổ biến. Sự chắc chắn về mặt toán học này là nền tảng của sự tiến bộ trong vô số lĩnh vực của cuộc sống.
Làn sóng trí tuệ nhân tạo hiện tại đưa chúng ta vào một thế giới xác suất, nơi mà độ chắc chắn 98% là chuẩn mực mới. Mặc dù điều này có thể đủ cho nhiều ứng dụng, nhưng các tiêu chuẩn cao hơn nhiều là cần thiết trong các lĩnh vực quan trọng như chăm sóc sức khỏe, tài chính và an ninh.
Thách thức thực sự nằm ở việc khai thác tiềm năng của trí tuệ nhân tạo mà không làm mất đi sự chắc chắn về mặt toán học vốn là nền tảng cho niềm tin của chúng ta vào công nghệ trong nhiều thập kỷ. Trong khi máy tính hiện có thể trò chuyện, tạo hình ảnh và viết thơ, thì chức năng quan trọng nhất của chúng vẫn là tính toán hoàn hảo—cùng một chức năng mà chúng từng thực hiện khi chúng lấp đầy cả căn phòng và được vận hành bởi các nhóm nhà khoa học mặc áo khoác phòng thí nghiệm. Bởi vì trong một thế giới mà việc phân biệt sự thật với hư cấu ngày càng trở nên khó khăn, thì sự chắc chắn về mặt toán học có giá trị hơn bao giờ hết.
Đọc cũng:
- Những chuyến tàu chở khách trong tương lai sẽ trông như thế nào
- Du hành vũ trụ với tốc độ ánh sáng: Khi nào điều này sẽ trở thành hiện thực?
