Nhà nghiên cứu tại OpenAI tiêu tốn 7.000 USD cho token mỗi ngày
Khoảng 10% nhà nghiên cứu sử dụng tác nhân lập trình nhiều nhất tại OpenAI tiêu thụ mỗi ngày 7.000 USD token, cho thấy cách làm việc đã thay đổi đáng kể.
Trong bài đăng trên blog cuối tuần qua, OpenAI cho biết nhờ sự phát triển của tác nhân lập trình, nhân viên có thể triển khai mã nhanh hơn, thực hiện nhiều thí nghiệm hơn và giao phó nhiệm vụ ngày càng cao cấp cho chúng.
Cụ thể, mức sử dụng tác nhân lập trình của nhóm nhà nghiên cứu tăng vọt trong ba tháng qua và vượt xa tốc độ tăng trưởng của những nhóm khác. Tính đến giữa tháng 8, mỗi nhà nghiên cứu dùng trung bình mỗi ngày hơn 600 USD token - đơn vị dữ liệu đầu vào cơ bản của AI, tăng mạnh so với mức 162 USD hồi tháng 7, riêng nhóm 10% có mức sử dụng cao nhất tốn hơn 7.000 USD token. Số liệu được tính theo chi phí suy luận thông qua giao diện lập trình ứng dụng (API), tức là chi phí ước tính theo giá niêm yết, không phải số tiền thực OpenAI đã trả.
Nhà phát triển ChatGPT cho biết, tác nhân của họ được sử dụng ngày càng nhiều để khắc phục sự cố kỹ thuật, đến mức số bài đăng hàng ngày trên kênh hỗ trợ kỹ thuật nội bộ do con người điều hành giảm hơn một nửa kể từ tháng 1.
Công ty cũng tuyên bố đã đạt mục tiêu CEO Sam Altman đặt ra năm ngoái là phát triển một "thực tập sinh nghiên cứu tự động", có thể thực hiện nhiệm vụ dưới sự hướng dẫn của con người, và đang đi đúng lộ trình để tạo ra "nhà nghiên cứu AI hoàn toàn tự động" vào tháng 3/2028.
Giao diện website OpenAI. Ảnh: Bảo Lâm
Business Insider nhận định, sự phổ biến và hiệu quả ngày càng tăng của tác nhân lập trình khiến ngành kỹ thuật phần mềm năm qua thay đổi đáng kể. Nhiều lập trình viên giao phó nhiệm vụ cho tác nhân, sau đó chỉ cần xem lại kết quả đầu ra. Một số cho rằng điều này giúp họ làm việc hiệu quả hơn, trong khi số khác chia sẻ vẫn gặp nhiều rắc rối khi chỉnh sửa mã.
Theo báo cáo công bố giữa tháng 6 của Viện nghiên cứu AI Công việc (WAI) thuộc công ty Glean (Mỹ) cùng Đại học Notre Dame, Đại học Stanford, Đại học California Berkeley, nhân viên văn phòng dành trung bình 6,4 tiếng mỗi tuần để cung cấp ngữ cảnh, kiểm tra đầu ra, sửa lỗi, xử lý sai sót của bot AI.
Báo cáo sử dụng thuật ngữ "bảo mẫu bot" để mô tả nhiệm vụ không được đánh giá cao nhưng lại thiết yếu này. Rebecca Hinds, đứng đầu WAI, mô tả công việc bảo mẫu bot tẻ nhạt, mệt mỏi, không được khen thưởng hay đánh giá cao, không được ghi nhận, đo lường.
Chi phí cao cho token cũng là vấn đề khiến nhiều công ty lo ngại. Theo The Verge hồi tháng 5, Microsoft đã hủy phần lớn giấy phép sử dụng trực tiếp Claude Code, công cụ AI lập trình do Anthropic phát triển, và kêu gọi nhân viên chuyển sang GitHub Copilot CLI để ưu tiên sản phẩm nội bộ. Tuy nhiên, một số nguồn tin cho biết, lý do thực sự là chi phí cho Claude Code tăng cao khi lượng người dùng ngày càng lớn.
tổng hợp
