Google Công Bố Tiến Bộ Mới Về An Toàn và Minh Bạch Trong Các Mô Hình AI
Google vừa công bố ba mô hình AI sinh tạo mới nhằm cải thiện an toàn và minh bạch của trí tuệ nhân tạo. Các mô hình này, thuộc dòng Gemma 2 của Google, được thiết kế để an toàn hơn, hiệu quả hơn và minh bạch hơn so với nhiều mô hình hiện có.
Theo một bài đăng trên trang web của công ty, các mô hình mới — Gemma 2 2B, ShieldGemma và Gemma Scope — xây dựng dựa trên nền tảng của dòng Gemma 2 gốc, được ra mắt vào tháng 5.
Kỷ Nguyên Mới Của AI Với Gemma 2
Khác với các mô hình Gemini của Google, dòng Gemma là mã nguồn mở. Cách tiếp cận này tương tự như chiến lược của Meta với các mô hình Llama, nhằm cung cấp các công cụ AI mạnh mẽ và dễ tiếp cận cho đối tượng rộng lớn hơn.
Gemma 2 2B là một mô hình nhẹ nhàng cho việc tạo và phân tích văn bản. Nó đủ linh hoạt để chạy trên nhiều phần cứng khác nhau, bao gồm cả máy tính xách tay và thiết bị biên. Khả năng hoạt động trong các môi trường khác nhau khiến nó trở thành lựa chọn hấp dẫn cho các nhà phát triển và nhà nghiên cứu tìm kiếm giải pháp AI linh hoạt, theo Google.
Trong khi đó, Google cho biết mô hình ShieldGemma tập trung vào việc nâng cao an toàn bằng cách hoạt động như một tập hợp các bộ phân loại an toàn. ShieldGemma được xây dựng để phát hiện và lọc nội dung độc hại, bao gồm ngôn từ thù địch, quấy rối và tài liệu khiêu dâm. Nó hoạt động trên nền tảng Gemma 2, cung cấp một lớp kiểm duyệt nội dung.
Nguồn: Google for Developers
Theo Google, ShieldGemma có thể lọc các yêu cầu đầu vào cho mô hình sinh tạo và nội dung được tạo ra, làm cho nó trở thành công cụ quý giá để duy trì sự toàn vẹn và an toàn của nội dung AI.
Mô hình Gemma Scope cho phép các nhà phát triển có cái nhìn sâu hơn vào cách thức hoạt động bên trong các mô hình Gemma 2. Theo Google, Gemma Scope bao gồm các mạng nơ-ron chuyên biệt giúp giải mã thông tin dày đặc và phức tạp mà Gemma 2 xử lý.
Liên Quan: Văn Phòng Bản Quyền Mỹ Báo Cáo 'Cần Gấp' Bảo Vệ Chống Deepfake
Bằng cách mở rộng thông tin này thành dạng dễ hiểu hơn, các nhà nghiên cứu có thể hiểu rõ hơn cách Gemma 2 nhận diện các mẫu, xử lý dữ liệu và đưa ra dự đoán. Sự minh bạch này là rất quan trọng để cải thiện độ tin cậy và sự tin tưởng vào AI.
Giải Quyết Lo Ngại Về An Toàn và Sự Đề Cử Từ Chính Phủ
Sự ra mắt của các mô hình này diễn ra sau cảnh báo từ kỹ sư Microsoft, Shane Jones, người đã nêu lo ngại về việc các công cụ AI của Google tạo ra hình ảnh bạo lực và khiêu dâm cũng như bỏ qua quyền tác giả.
Việc phát hành các mô hình mới này trùng với một báo cáo sơ bộ từ Bộ Thương mại Mỹ ủng hộ các mô hình AI mở. Báo cáo nêu rõ lợi ích của việc làm cho AI sinh tạo dễ tiếp cận hơn đối với các công ty nhỏ hơn, nhà nghiên cứu, tổ chức phi lợi nhuận và các nhà phát triển cá nhân.
Tuy nhiên, báo cáo cũng nhấn mạnh tầm quan trọng của việc giám sát các mô hình này để phòng ngừa rủi ro, nhấn mạnh sự cần thiết của các biện pháp an toàn như những gì đã được triển khai trong ShieldGemma.
