ChatGPT bot AI đàm thoại của OpenAI đã ra mắt vào năm ngoái và đã trở nên siêu phổ biến với tốc độ kỷ lục nhờ khả năng viết truyện, soạn email và thậm chí tạo mã (đôi khi, thật không may, thậm chí có hại). Tuy nhiên, một báo cáo mới cho thấy OpenAI đang tiêu tốn rất nhiều tiền để duy trì hoạt động hàng ngày.
Theo nghiên cứu của SemiAnalysis, OpenAI chi gần 695 USD mỗi ngày để duy trì bot trò chuyện trong điều kiện làm việc. Theo ước tính của công ty, hệ thống này bao gồm khoảng hơn 3,6 nghìn máy chủ HGX A100 và gần 29 nghìn GPU và chi phí cho mỗi yêu cầu là khoảng ¢0,36.
Dylan Patel, nhà phân tích chính tại SemiAnalysis, nói với Business Insider rằng chi phí chạy phần mềm hiện tại có thể còn cao hơn, vì phiên bản GPT-4 có thể đắt hơn phiên bản tiền nhiệm GPT-3. Anh ấy dựa trên các ước tính của mình về mô hình GPT-3 trước đây, nhưng OpenAI đã phát hành phiên bản GPT-4 đối với thuê bao trả phí. Công ty tuyên bố rằng mô hình mới cung cấp thông tin chính xác hơn và bảo vệ tốt hơn trước các câu trả lời sai, vốn là một vấn đề với các phiên bản trước.
Một trong những lý do chính dẫn đến chi phí cắt cổ là do các chip chuyên dụng tiêu tốn nhiều năng lượng cần thiết để vận hành hệ thống. Để giải quyết vấn đề này, Microsoft đang nghiên cứu chip trí tuệ nhân tạo của riêng mình có tên Athena có thể thay thế GPU NVIDIA và giảm chi phí vận hành của ChatGPT.
Trong khi đó, ChatGPT đã có thể tạo mã chức năng từ đầu và nó thậm chí còn làm dấy lên lo ngại rằng cuối cùng nó có thể thay thế các lập trình viên. Tuy nhiên, một nghiên cứu gần đây của một nhóm các nhà khoa học cho thấy mã do chatbot tạo ra có thể không an toàn lắm. Nghiên cứu nói rằng ChatGPT tạo mã "thấp hơn đáng kể so với các tiêu chuẩn bảo mật tối thiểu áp dụng trong hầu hết các tình huống." Thú vị nhất, chatbot thừa nhận điều này khi được hỏi mức độ an toàn của mã mà nó tạo ra.
Để kiểm tra chất lượng mã hóa ChatGPT, các nhà nghiên cứu đã yêu cầu anh ấy tạo 21 chương trình và tập lệnh bằng bốn ngôn ngữ lập trình: C, C++, Python và Java. Trong lần thử đầu tiên, chatbot chỉ có thể viết 5 chương trình an toàn, nhưng sau khi được các nhà nghiên cứu nhắc nhở, nó đã tạo ra 7 đoạn mã an toàn hơn. Kết quả nghiên cứu cho thấy rằng việc sử dụng ChatGPT để viết ứng dụng hiện tại có thể không hiệu quả hoặc thậm chí nguy hiểm, nhưng điều này có thể thay đổi trong tương lai.
Đọc thêm:
Wow con số cho một tế bào thần kinh miễn phí!
Trong đời mình chưa bao giờ nghĩ nó đắt như vậy...
Tôi cũng rất ngạc nhiên. Tôi thậm chí còn hơi khó chịu bây giờ Mở ChatGPT - Tôi vẫn sẽ gánh nó với các yêu cầu của mình)