Tin Tức
LLM vận hành AI tạo nội dung của iOS 18 sẽ xử lý trên Neural Engine, không phải máy chủ đám mây
Trước đó đã có những tin đồn chưa được xác nhận, đề cập đến việc tất cả các thiết bị được nâng cấp lên iOS 18 sẽ tích hợp các tính năng tạo nội dung và trợ lý ảo dựa trên công nghệ trí tuệ nhân tạo mà Apple đang phát triển. Điều này được xem là một bước tiến quan trọng giúp Apple thu hẹp khoảng cách với các đối thủ lớn như Microsoft và Google, bởi hiện tại Apple vẫn chưa có tính năng trí tuệ nhân tạo nào dành cho hàng tỷ thiết bị của họ trên toàn cầu.
Gần đây, Mark Gurman của Bloomberg đã tiết lộ thêm rằng các tính năng tạo nội dung trên iOS 18, dựa trên các mô hình ngôn ngữ lớn mà Apple phát triển, sẽ hoạt động dựa trên phần cứng của thiết bị, đặc biệt là con chip bên trong iPhone. Điều này khác biệt so với việc sử dụng các dịch vụ với hàng trăm tỷ tham số và kích thước lớn, cần phải vận hành trên các trung tâm dữ liệu và gửi kết quả trả về thông qua kết nối internet.
Lợi thế đầu tiên của việc xử lý trí tuệ nhân tạo (AI) trên thiết bị địa phương là tốc độ và không cần kết nối internet. Tất cả các tính toán có thể được thực hiện trên chip xử lý của các thiết bị iPhone mới, dựa trên việc tải và thực thi các mô hình AI. Đặc biệt, AI có thể tương tác với người dùng theo thời gian thực, không cần phải chờ đợi lệnh hoặc truy vấn được gửi lên máy chủ đám mây, và sau đó chờ đợi máy chủ trả về câu trả lời, giống như các dịch vụ Copilot hoặc Gemini của Microsoft và Google hiện tại.
Lợi thế thứ hai là Apple có thể tạo ra những sự khác biệt thực sự trong các phiên bản iPhone 16 Pro và Pro Max được dự kiến ra mắt vào tháng 9 năm nay. Bên cạnh các tính năng như camera, màn hình và khung titanium, hiệu suất xử lý trí tuệ nhân tạo trên Neural Engine và cả con chip A18 Pro nói chung sẽ tạo ra một sự khác biệt để làm nổi bật chiếc điện thoại trong phân khúc cao cấp.
Nhược điểm rõ ràng luôn phụ thuộc vào giới hạn của phần cứng thiết bị. Không có chiếc điện thoại hoặc máy tính xách tay nào có thể so sánh được với các trung tâm dữ liệu với hàng nghìn, thậm chí hàng vạn GPU được sử dụng để xử lý các mô hình trí tuệ nhân tạo với bộ nhớ VRAM đo lường theo đơn vị tera, thậm chí là petabyte. Vì vậy, chất lượng của kết quả nội dung được tạo ra bằng điện thoại sẽ khó có thể so sánh được với máy chủ đám mây.
Có một cách mà Apple có thể quảng bá cho tính năng AI xử lý local trên phần cứng thiết bị cuối, giúp người dùng tin tưởng hơn và giảm khoảng cách giữa hiệu suất và chất lượng nội dung AI xử lý local so với máy chủ đám mây. Thực tế, đây cũng là một hướng mà Apple đã nhắm đến từ rất nhiều năm qua, đó là quyền riêng tư và bảo mật thông tin cá nhân của người dùng.
Theo Gurman, tính năng tạo nội dung trí tuệ nhân tạo trên iOS 18 do Apple tự phát triển sẽ không bao gồm chatbot. Điều này đáng lưu ý, vì hiện tại có những tin đồn rằng Apple đang đàm phán với Google để đưa Gemini lên iOS dưới dạng một chatbot cho người dùng iPhone. Cũng có thông tin cho rằng các quan chức của Apple đã họp với đại diện của OpenAI để chọn ra mô hình phù hợp nhất để vận hành chatbot, kết hợp với các tính năng tạo nội dung từ các mô hình ngôn ngữ lớn được tạo ra bởi các kỹ sư và nhà nghiên cứu của Apple.
Có thể dự đoán rằng, Apple sẽ kết hợp cả hai tính năng xử lý trí tuệ nhân tạo trên chip iPhone và trên đám mây để tạo ra trải nghiệm mượt mà và tốt nhất cho người dùng. Tuy nhiên, hiện vẫn chưa rõ ràng là Siri với các tính năng AI tạo nội dung sẽ khác biệt như thế nào so với Gemini hay Copilot.