Tin công nghệ

Chatbot AI Chạy Bằng Card đồ Họa Không Cần Internet

Mới đây thôi, Nvidia đã cho ra mắt card đồ họa được tích hợp AI với nhiều tính năng, cho phép người dùng xử lý các tác vụ và phân tích các chi tiết phức tạp khác nhau. Đặc biệt Chat with RTX này có thể sử dụng mà không cần tới internet chạy cục bộ trên PC nên rất tiện lợi cho người dùng. Vậy thì ưu điểm của con AI được tích hợp là gì và hệ thống máy tính nào có thể sử dụng được? Sau đây hãy cùng Phong Vũ đi tìm hiểu về Chat with RTX này nhé!



Nvidia ra mắt chat with RTX tích hợp Card đồ họa

Nvidia vừa công bố ra mắt Chat with RTX, đây có thể coi là bước đi đột phá trong việc tích hợp AI vào Card đồ họa của hãng, chatbot này còn có thể hoạt động hoàn toàn ngoại tuyến mà không cần internet trên những PC Windows rất tiện lợi.

Chat with RTX có thể xử dụng cho nhiều tác vụ khác nhau nếu người dùng biết tận dụng. Trong những thông tin mà Nvidia đưa ra, Chat with RTX hoạt động khi người dùng cung cấp các video, đường dẫn Youtube hay tài liệu cá nhân, sau đó yêu cầu chatbot tóm tắt nội dung và đưa ra các câu trả lời liên quan dựa trên dữ liệu đầu vào của bạn. Hoặc bạn cũng có thể đưa vào đó bất kỳ file nào cần để nhờ AI tìm kiếm hoặc phân tích các chi tiết phức tạp nhằm tìm kiếm thông tin từ dữ liệu đó.

chat with rtx của nvidia

Chat with RTX này còn được hỗ trợ để quét cũng như xử lý nhiều định dạng tệp dữ liệu bao gồm văn bản, PDF, doc/docx hay XML, cũng gần giống với một số AI hiện nay như Copilot của Microsoft. Tuy nhiên điểm khác biệt ở đây của công cụ Nvidia chính là tốc độ phản hồi nhanh chóng, có thể nói gần như là ngay lập tức mà không xuất hiện độ trễ như một vài đối thủ khác. Người dùng chỉ cần hướng ứng dụng đến những thư mục chứa các tệp, chúng sẽ nhanh chóng tải vào thư viện chỉ trong vài giây.

Chatbot AI của Nvidia hoạt động như một hệ thống cục bộ mà không cần kết nối mạng internet, dựa trên những mô tả thông tin đến từ hãng thì Chat with RTX có thể được sử dụng tương tự như ChatGPT bằng cách tìm kiếm các truy vấn khác nhau. Tuy nhiên bạn cần biết kết quả đưa ra hoàn toàn là dựa trên tệp dữ liệu đầu vào cụ thể. Có thể thấy chatbot này phù hợp hơn để sử dụng cho những tác vụ như tóm tắt hay tìm kiếm tài liệu nhanh chóng.

chat with rtx nvidia

Một lợi ích khác của con chatbot AI này đó là khi sử dụng GPT RTX hỗ trợ TensorRT-LLM, người dùng sẽ được làm việc với tất cả các dữ liệu. Vậy nên không cần thiết phải lưu trữ dữ liệu trên đám mây nhằm tiết kiệm thời gian cũng như mang đến kết quả chính xác hơn. Đặc biệt, Nvidia cũng cho biết TensorRT-LLM v0.6.0 sẽ được cải thiện hiệu suất cao hơn lên đến 5 lần, phiên bản hỗ trợ các LLM khác như Mistral 7B và Nemotron 3 8B sẽ được ra mắt vào cuối tháng 2 tới đây.

Theo Tom Warren từ The Verge, người đã được trải nghiệm phiên bản beta của Chat with RTX nhận xét mặc dù vận hành còn chưa hoàn hảo, nhưng đây cũng có thể coi là công cụ đầy hữu ích trong việc hỗ trợ các nhà báo hay phóng viên theo dõi và phân tích lượng lớn các tài liệu với nhiều thông tin khác nhau. Tuy nhiên việc phân tích nội dung trong video vẫn chưa thực sự tốt vì chatbot AI khó có thể phân biệt transcript phụ đề của một đoạn video.

chat with rtx AI

Một số tính năng chính của chatbot AI

Khả năng xử lý cục bộ không cần internet: Chạy được trực tiếp trên PC Platform Windows RTX và máy trạm mà không cần tới kết nối internet, có khả năng phản hồi nhanh chóng và giúp tăng cường bảo mật và quyền riêng tư dữ liệu.

Cá nhân hóa: Bạn có thể tùy chỉnh chatbot bằng nội dung muốn tóm tắt, phân tích bao gồm tệp văn bản, PDF, DOC/DOCX, XML hay các video YouTube.

Tăng cường khả năng truy vấn: Chat with RTX sử dụng RAG, phần mềm NVIDIA TensorRT-LLM và tăng tốc NVIDIA RTX để tạo nội dung nhằm đưa ra câu trả lời phù hợp với ngữ cảnh. 

Cá nhân hóa mô hình ngôn ngữ lớn (LLM): Bạn có thể chọn hai LLM mã nguồn mở là Mistral hoặc Llama 2 để huấn luyện cho chatbot của họ.

Lưu ý: Ứng dụng còn đang trong giai đoạn công bố giới thiệu dành cho nhà phát triển, do vậy khả năng ghi nhớ ngữ cảnh còn hạn chế và có thể xác định nguồn không chính xác. Ngoài ra, hãng cũng khuyến cáo bạn chỉ nên cài đặt nếu có nhu cầu trải nghiệm công nghệ AI, không nên sử dụng như công cụ hỗ trợ công việc thường ngày.

Yêu cầu cấu hình máy tính

  • Nền tảng: Windows
  • GPU: NVIDIA GeForce RTX 30 hoặc 40 Series, GPU NVIDIA RTX Ampere hoặc Ada Generation với ít nhất 8GB VRAM
  • RAM: 16GB trở lên
  • OS: Windows 11
  • Driver: 535.11 trở lên
  • Kích thước tập tin: 35GB

Trên đây là những thông tin về chat with RTX vừa được Nvidia công bố, là một loại chatbot chạy cục bộ trên PC Windows mà có thể không cần tới đường dẫn truyền internet, bạn có thể tải tại đây để trải nghiệm thử “con AI” mới này. Hi vọng bài viết này có thể cung cấp các thông tin hữu ích về loại AI này cho bạn.

Cho xem nhiều hơn

Những bài viết liên quan

0 0 đánh giá
Đánh giá bài viết
Theo dõi
Thông báo của
guest

Website này sử dụng Akismet để hạn chế spam. Tìm hiểu bình luận của bạn được duyệt như thế nào.

0 Góp ý
Phản hồi nội tuyến
Xem tất cả bình luận
Back to top button
0
Rất thích suy nghĩ của bạn, hãy bình luận.x

Adblock Detected

Vui lòng vô hiệu hóa chương trình chặn quảng cáo trước khi xem trang web TAMHOANG.NET!

Please disable ad blocking program before viewing TAMHOANG.NET website!