CEO OpenAI Sam Altman menyatakan bahwa menjalankan inferensi AI secara lokal di komputer pribadi merupakan pilihan yang “sangat buruk” dari sudut pandang alokasi sumber daya global. Dalam wawancara sambil minum bir dengan kanal YouTube Cheeky Pint, Altman menilai pusat data menawarkan pemanfaatan memori yang lebih baik dibandingkan komputer rumahan. Pernyataan itu disampaikan saat membahas kemungkinan orang menjalankan model AI sumber terbuka di perangkat mereka sendiri.

Alasan Altman: DRAM terbatas dan utilisasi rendah

Diskusi itu berangkat dari asumsi bahwa orang dapat menjalankan AI lokal di komputer yang sudah mereka miliki atau yang ingin mereka rakit. Altman lalu menjelaskan mengapa pendekatan tersebut dinilainya buruk. Menurut dia, dunia memiliki persediaan DRAM yang terbatas. Jika setiap orang menyimpan memori di komputer masing-masing tetapi hanya memakainya sekitar 5 persen, alokasi tersebut menjadi tidak efisien.

Pada menit ke-29 wawancara, Altman mengutarakan pandangannya.

“Dari sudut pandang alokasi global, sebenarnya sangat buruk jika semua orang mempunyai persediaan DRAM yang terbatas di dunia dan hanya digunakan 5% di komputer mereka,” kata Altman. “Anda menginginkan pemanfaatan maksimum di cloud jika Anda mencoba menghadapi lingkungan yang sangat terbatas pasokannya. Namun intuisi banyak orang justru bertolak belakang dengan hal tersebut.”

Menurut RakyatPos Network, pernyataan Altman secara tidak langsung membela model bisnis OpenAI. Perusahaan memiliki sejumlah model sumber terbuka, tetapi bisnis utamanya adalah model sumber tertutup yang dijalankan di pusat data.

Dampak pada langganan dan asumsi pusat data

Laporan itu menilai OpenAI belum sepenuhnya terancam oleh laptop dan perangkat gaming. Namun, AI lokal dapat berarti bahwa suatu hari orang membayar lebih sedikit untuk berlangganan model seperti GPT-6 Luna jika mereka memiliki kemampuan menjalankannya di rumah. Pembicaraan Altman, menurut laporan itu, menunjukkan perusahaan lebih memilih lebih banyak RAM dialokasikan ke pusat data OpenAI daripada ke komputer rumahan. Hal ini juga memicu kekhawatiran para antusias karena tidak dapat memiliki perangkat keras atau perangkat lunak sendiri, melainkan menyewa agen dan komputer di cloud.

RakyatPos Network juga menyoroti asumsi di balik pernyataan Altman. Ia tampaknya berangkat dari gagasan bahwa pembangunan pusat data tidak akan melambat. Pernyataan itu juga mengasumsikan RAM yang digunakan di pusat data AI selama 24 jam sehari, tujuh hari seminggu lebih bermanfaat dibandingkan RAM yang dipakai untuk lembar kerja, menjelajah web, bermain game, dan bahkan AI lokal sesekali.