Tình trạng thiếu GPU ảnh hưởng đến OpenAI, trì hoãn việc triển khai ChatGPT-4.5

OpenAI đã phải trì hoãn việc phát hành mô hình GPT-4.5 mới của mình vì hết chip GPU (Đơn vị xử lý đồ họa). Chúng được sử dụng để đào tạo mô hình, xử lý lượng lớn dữ liệu và thực hiện các tính toán phức tạp. Nếu bạn đang thắc mắc tại sao chip CPU (Đơn vị xử lý trung tâm) không được sử dụng, câu trả lời khá dễ hiểu. GPU xử lý dữ liệu đồng thời, phù hợp hơn cho các hoạt động ma trận của AI so với xử lý tuần tự được sử dụng bởi CPU.

Trong một tweet được đăng bởi Giám đốc điều hành OpenAI Sam Altman, ông nói rằng “kỵ binh” đang trên đường đến. Thực tế, những gì Altman nói là hàng trăm nghìn chip GPU sắp đến và ông ấy có lẽ sẽ sử dụng từng chip khá nhanh chóng. Mô hình mới chỉ có sẵn cho những người sẵn sàng chi 200 đô la mỗi tháng cho phiên bản Pro của ChatGPT. Sau khi có được GPU mới, người dùng ChatGPT Plus trả 20 đô la mỗi tháng cũng sẽ nhận được lợi ích từ việc sử dụng mô hình mới.

Việc chạy đến Walmart để mua thêm GPU, tương tự như cách bạn và tôi làm mới mực máy in khi hết, là điều không thể xảy ra ở đây. Đây là lý do tại sao OpenAI đang xem xét phát triển chip riêng, điều này sẽ khiến họ ít bị tổn thương hơn trước mức tồn kho dao động tại NVIDIA.

[Hình ảnh: Sam Altman thừa nhận rằng OpenAI đã hết chip GPU. | Nguồn ảnh-X]

Thảo luận về mô hình GPT-4.5 mới trong tweet của mình, Altman chỉ ra rằng đó không phải là mô hình lý luận và sẽ không thiết lập kỷ lục điểm chuẩn mới. Ông ấy tiếp tục nói rằng về GPT-4.5, “đó là một loại trí tuệ khác và có một điều kỳ diệu mà tôi chưa từng cảm thấy trước đây. thực sự rất hào hứng để mọi người thử nó!”

Altman cảnh báo rằng GPT-4.5 là “một mô hình khổng lồ đắt tiền” có giá 75 đô la cho mỗi triệu token đầu vào và 150 đô la cho mỗi triệu token đầu ra. Để so sánh, GPT-4o chỉ có giá 2,50 đô la cho mỗi triệu token đầu vào và 10 đô la cho mỗi triệu token đầu ra. Token là một đơn vị văn bản có thể là một chữ cái đơn lẻ, một từ đơn lẻ hoặc thậm chí là dấu chấm câu. Mô hình ngôn ngữ lớn (LLM) chia nhỏ văn bản thành token trước khi xử lý nó. So sánh chi phí của GPT-4.5 với GPT-4o có giá rẻ hơn nhiều là 2,50 đô la cho mỗi triệu token đầu vào và 10 đô la cho mỗi triệu token đầu ra.

Nếu bạn đang thắc mắc tại sao NVIDIA trở thành “người yêu” của Phố Wall, tăng trưởng đáng kinh ngạc 1.748,96% trong vòng 5 năm qua, thì đây là câu trả lời của bạn. Không có gì nóng hơn trên con phố mà chúng ta gọi là Wall hơn AI và nhu cầu về chip hàng đầu của NVIDIA đã tăng lên trong vài năm qua.