NVIDIA vừa phát hành bản demo chatbot miễn phí chạy cục bộ trên PC của bạn. Điều này rất thuận tiện vì nó cho phép chatbot truy cập vào các tệp và tài liệu của bạn. Bạn có thể cung cấp Trò chuyện với RTX dữ liệu cá nhân nhất định và yêu cầu anh ta tạo sơ yếu lý lịch dựa trên thông tin đó. Bạn cũng có thể hỏi nó những câu hỏi giống như bất kỳ chatbot nào và nó sẽ đi sâu vào dữ liệu của bạn để tìm câu trả lời.
Công ty cho biết nó cho phép người dùng "kết nối nhanh chóng và dễ dàng các tệp PC cục bộ dưới dạng tập dữ liệu với mô hình ngôn ngữ nguồn mở lớn như Mistral hoặc Llama 2." NVIDIA đưa ra ví dụ về người dùng hỏi chatbot về một nhà hàng được đối tác giới thiệu khi ở Las Vegas. Phần mềm quét các tập tin cục bộ để tìm câu trả lời. Nó hỗ trợ nhiều định dạng tệp bao gồm .txt, .pdf, .doc, .docx và .xml. Công ty cho biết họ tải các tệp có liên quan lên tập dữ liệu của mình "chỉ trong vài giây".
Trò chuyện với RTX cũng tích hợp video và danh sách phát YouTube. Bạn có thể thêm URL của video vào tập dữ liệu và nó sẽ tích hợp kiến thức có trong video cho các truy vấn theo ngữ cảnh. NVIDIA cho biết nó sẽ hữu ích khi yêu cầu đề xuất du lịch “dựa trên nội dung từ các video yêu thích của những người có ảnh hưởng” hoặc khi tìm kiếm các hướng dẫn và tóm tắt bắt nguồn từ các tài nguyên giáo dục.
Điều này nghe có vẻ như là một bước tiến lớn hướng tới một thứ giống như một trợ lý kỹ thuật số thực sự hoạt động trong bối cảnh dữ liệu cá nhân của bạn. Hầu hết các chatbot đều gửi dữ liệu lên đám mây, nhưng Chat with RTX “cho phép người dùng xử lý dữ liệu nhạy cảm trên máy tính cục bộ mà không cần phải chia sẻ dữ liệu đó với bên thứ ba hoặc có kết nối Internet”. Vì vậy, nó an toàn hơn và giao tiếp theo ngữ cảnh hơn.
Có một số hạn chế. Đây là sản phẩm demo nên sẽ có nhiều lỗi NVIDIA nên bắt đầu sửa chúng ngay khi người dùng bắt đầu viết báo cáo lỗi, v.v. Ngoài ra còn có một số hạn chế nghiêm ngặt về phần cứng ở đây. Trò chuyện với RTX chỉ hoạt động trên máy tính Windows 11 có GPU NVIDIA Dòng GeForce RTX 30 trở lên và ít nhất 8 GB VRAM.
Gần đây NVIDIA đang thực sự thể hiện sức mạnh AI của mình khi công ty vừa tung ra thế hệ chip siêu máy tính AI tiếp theo. Nó chỉ đơn giản là kiếm được lợi nhuận, chủ yếu nhờ vào phân khúc AI và trung tâm dữ liệu.
Đọc thêm: