Tại DevDay 2024, OpenAI đã công bố một số công cụ dành cho nhà phát triển mới, cho phép họ tạo các ứng dụng AI tiên tiến dễ dàng hơn. Đúng như dự đoán, công ty đã không công bố bất kỳ mô hình mới nào trong sự kiện.
OpenAI đã đưa ra bốn thông báo chính cho các nhà phát triển. Đầu tiên, công ty đã công bố bản beta công khai của Realtime API , cho phép các nhà phát triển xây dựng trải nghiệm đa phương thức, độ trễ thấp trong ứng dụng của họ. Điều này sẽ cho phép các nhà phát triển xây dựng các ứng dụng tương tự như Chế độ giọng nói nâng cao của ChatGPT với các cuộc hội thoại giọng nói thành giọng nói tự nhiên bằng sáu giọng nói được cài đặt sẵn. Đối với các nhà phát triển không cần những lợi ích về độ trễ thấp của Realtime API, OpenAI cũng đã công bố đầu vào và đầu ra âm thanh trong Chat Completions API.
Mã thông báo nhập văn bản API thời gian thực sẽ có giá 5 đô la cho 1 triệu và 20 đô la cho 1 triệu mã thông báo đầu ra. Đầu vào âm thanh sẽ có giá 100 đô la cho 1 triệu mã thông báo và đầu ra là 200 đô la cho 1 triệu mã thông báo. Vì vậy, sẽ có giá khoảng 0,06 đô la cho mỗi phút đầu vào âm thanh và 0,24 đô la cho mỗi phút đầu ra âm thanh.
Thứ hai, OpenAI đã công bố tính năng tinh chỉnh thị giác trên GPT-4o , cho phép các nhà phát triển tinh chỉnh mô hình bằng hình ảnh cùng với văn bản. Điều này sẽ hữu ích trong các tình huống như cải thiện chức năng tìm kiếm trực quan, cải thiện khả năng phát hiện đối tượng cho xe tự hành, phân tích hình ảnh y tế chính xác, v.v. Tính năng tinh chỉnh thị giác hiện khả dụng cho tất cả các nhà phát triển sử dụng ảnh chụp nhanh mô hình GPT-4o mới nhất, 'gpt-4o-2024-08-06' trên các bậc sử dụng trả phí. OpenAI cũng cung cấp miễn phí 1 triệu mã thông báo đào tạo mỗi ngày đến hết ngày 31 tháng 10 năm 2024 để tinh chỉnh GPT-4o bằng hình ảnh. Sau đó, chi phí đào tạo tinh chỉnh sẽ là 25 đô la cho 1 triệu mã thông báo và chi phí suy luận sẽ là 3,75 đô la cho 1 triệu mã thông báo đầu vào và 15 đô la cho 1 triệu mã thông báo đầu ra.
Thứ ba, OpenAI cuối cùng cũng bắt kịp Google và Anthropic với hỗ trợ Prompt Caching mới cho phép các nhà phát triển giảm chi phí và độ trễ. Sử dụng Prompt Caching, các nhà phát triển có thể được giảm giá 50% và thời gian xử lý nhanh hơn. Ngoài ra, các nhà phát triển không cần phải làm gì để bật Prompt Caching, vì nó được tự động áp dụng trên các phiên bản mới nhất của GPT-4o, GPT-4o mini, o1-preview và o1-mini, cũng như các phiên bản tinh chỉnh của các mô hình đó.
Thứ tư, OpenAI đã công bố một bộ công cụ Model Distillation mới cho phép các nhà phát triển tinh chỉnh các mô hình nhỏ hơn bằng cách sử dụng đầu ra từ các mô hình biên giới lớn hơn. Điều này sẽ cho phép họ khớp hiệu suất của các mô hình tiên tiến trên các tác vụ cụ thể với chi phí thấp hơn nhiều. Trước đây, việc chưng cất mô hình liên quan đến một quy trình lớn và một số công cụ không kết nối. Với bộ công cụ Model Distillation mới, OpenAI hiện cung cấp toàn bộ quy trình chưng cất trực tiếp trong nền tảng của mình.
Model Distillation hiện đã có sẵn cho tất cả các nhà phát triển. OpenAI đang cung cấp 2 triệu token đào tạo miễn phí mỗi ngày trên GPT-4o mini và 1 triệu token đào tạo miễn phí mỗi ngày trên GPT-4o cho đến ngày 31 tháng 10. Sau đó, chi phí đào tạo và chạy một mô hình chưng cất sẽ giống với giá tinh chỉnh tiêu chuẩn hiện tại của OpenAI.
Bằng cách hợp lý hóa quy trình làm việc và giảm chi phí, OpenAI giúp các nhà phát triển dễ dàng đổi mới và mở rộng ranh giới khả năng của AI.
