66B hay 66 tỷ tham số là một mô hình ngôn ngữ khổng lồ được thiết kế để hiểu và sinh văn bản theo ngữ cảnh. Nó có khả năng trả lời câu hỏi, tóm tắt nội dung, viết văn và hỗ trợ nhiều tác vụ ngôn ngữ khác với mức độ tự động hóa cao.
Về cơ bản, 66B dựa trên kiến trúc transformer với nhiều lớp tự chú ý và mạng feed forward. Dữ liệu huấn luyện được thu thập từ nguồn công khai trên internet, sách và tài liệu chất lượng cao, được xử lý để giảm thiểu thiên lệch và bảo đảm an toàn đầu ra.
66B cho phép sinh văn bản mượt mà và phong phú, nhưng vẫn đối mặt với sai lệch thông tin, vấn đề đạo đức và chi phí vận hành cao. Việc đánh giá, kiểm soát đầu ra và đảm bảo tính đáng tin cậy là những thách thức lớn.
Mô hình này được dùng để hỗ trợ viết nội dung, trả lời tự động, trợ lý ảo, phân tích ngôn ngữ và lên ý tưởng sáng tạo. Để khai thác hiệu quả, cần cân nhắc an toàn, riêng tư và sự phù hợp trong từng ngữ cảnh.