Qualcomm sẽ đưa mô hình ngôn ngữ lớn Llama 2 của của Meta lên smartphone và máy tính sử dụng chip của hãng từ 2024.
Hiện nay mô hình AI ngôn ngữ lớn (LLM) chủ yếu chạy trên hệ thống máy chủ mạnh và sử dụng GPU của Nvidia, do đòi hỏi nhu cầu lớn về sức mạnh tính toán và dữ liệu. Trong khi đó, các nhà sản xuất chip hàng đầu cho điện thoại và PC bị bỏ lỡ xu hướng mới.
Qualcomm muốn thay đổi điều đó. Họ đặt mục tiêu các mô hình ngôn ngữ lớn có thể chạy trên smartphone thay vì trên đám mây trong các trung tâm dữ liệu lớn. Nếu thành công, điều này sẽ làm giảm đáng kể chi phí vận hành AI và mở ra kỷ nguyên của những trợ lý AI trên điện thoại.
Các mô hình ngôn ngữ lớn có thể chạy trên smartphone với chip Qualcomm. Ảnh: Gizchina
Qualcomm cho biết sẽ trang bị Llama 2 mã nguồn mở trên thiết bị sử dụng chip của hãng. Llama 2 có thể thực hiện nhiều tác vụ giống ChatGPT nhưng được chia thành các chương trình nhỏ khác nhau để có thể hoạt động trên smartphone.
Chip của Qualcomm tích hợp một bộ xử lý TPU, phù hợp cho việc tính toán AI mà mô hình ngôn ngữ lớn cần, nhưng sức mạnh của nó không thể so với một trung tâm dữ liệu chứa các GPU hiện đại.
Llama 2 của Meta là mô hình ngôn ngữ lớn đang rất được quan tâm vì là mã nguồn mở, cho phép các doanh nghiệp điều chỉnh cách thức hoạt động theo nhu cầu mà không cần xin phép hoặc trả tiền. Trong khi đó, GPT-4 của OpenAI hay Bard của Google là nguồn đóng và được giữ bí mật.
Huy Đức
Các bài viết liên quan
Nguy cơ thông tin sai lệch từ các mô hình ngôn ngữ…
DNVN - Chia sẻ tại sự kiện Talk Gender in Marcom: “Gender Sensible AI”, sáng ngày 13/12, ông Đinh Trần Tuấn Linh - Giám đốc công nghệ công ty Unikon cảnh báo, khi sử dụng…
Cách phân biệt màn hình iPhone Zin và Lô Để phân biệt màn hình iPhone Zin và Lô cũng không quá dễ dàng và không phải ai cũng có thể thực hiện được. Đây chắc hẳn là điều người dùng lo lắng khi mua điện thoại…
Đông Nam Bộ thúc đẩy chuyển đổi số lĩnh vực…
Theo Nghị quyết 24/NQ-TW của Bộ Chính trị thì Ttăng cường chuyển đổi số trong giáo dục và đào tạo - lĩnh vực được coi là nền tảng tạo động lực phát triển toàn diện,…
Người dẫn truyền hình AI của Ấn Độ: Đa ngôn ngữ,… Sự phát triển nhanh chóng của công nghệ chatbot trang bị trí tuệ nhân tạo (AI) trở thành người dẫn truyền hình khiến một số người lo lắng về việc đảm bảo an ninh việc làm,…
So sánh Snapdragon 680 vs Exynos 850: Qualcomm vẫn quá ngon? Cùng MobileCity so sánh Snapdragon 680 vs Exynos 850. Hai con chip phân khúc giá rẻ rất phổ biến hiện nay, được trang bị lên nhiều smartphone. Liệu rằng Exynos đã "lột xác" hay vẫn thất bại…
Meta Quest 3 trình làng với hiệu năng mạnh gấp đôi… Không gì thú vị hơn việc đón chào một sản phẩm công nghệ mới, và đó chính là Meta Quest 3 – bản nâng cấp tiếp theo của dòng tai nghe thực tế ảo nổi tiếng…
YouTube thay đổi chính sách ngôn từ về những từ ngữ… YouTube sửa đổi chính sách ngôn từ của mình về ngôn từ tục tĩu trong các video bật kiếm tiền trên nền tảng này. Trang web cho biết mỗi ngôn ngữ thô tục sẽ có các…
Chỉ sau 3 tháng ra mắt, Galaxy AI của Samsung đã có… Hôm nay, Samsung đã chính thức công bố hỗ trợ thêm 3 ngôn ngữ mới cho Galaxy AI bao gồm: tiếng Ả Rập, tiếng Indonesia và tiếng Nga, cùng với 3 phương ngữ mới: tiếng Anh…
Khi bạn đăng nhập lần đầu tiên bằng nút Đăng nhập Xã hội, chúng tôi thu thập thông tin hồ sơ công khai tài khoản của bạn được chia sẻ bởi nhà cung cấp Đăng nhập Xã hội, dựa trên cài đặt quyền riêng tư của bạn. Chúng tôi cũng nhận được địa chỉ email của bạn để tự động tạo tài khoản cho bạn trong trang web của chúng tôi. Khi tài khoản của bạn được tạo, bạn sẽ đăng nhập vào tài khoản này.
Không đồng ýĐồng ý
Kết nối với
Tôi cho phép tạo tài khoản
Khi bạn đăng nhập lần đầu tiên bằng nút Đăng nhập Xã hội, chúng tôi thu thập thông tin hồ sơ công khai tài khoản của bạn được chia sẻ bởi nhà cung cấp Đăng nhập Xã hội, dựa trên cài đặt quyền riêng tư của bạn. Chúng tôi cũng nhận được địa chỉ email của bạn để tự động tạo tài khoản cho bạn trong trang web của chúng tôi. Khi tài khoản của bạn được tạo, bạn sẽ đăng nhập vào tài khoản này.
