Menurut dua orang dalam, Openai berkolaborasi dengan Broadcom untuk mengembangkan jenis baru chip kecerdasan buatan (AI) yang dirancang khusus untuk menjalankan model AI terlatih.
Orang dalam mengatakan bahwa startup intelijen buatan dan produsen chip ini masih dalam pembicaraan dengan TSMC, produsen kontrak chip terbesar di dunia.Orang dalam mengatakan bahwa Openai telah merencanakan chip yang disesuaikan selama sekitar satu tahun dan berkomitmen untuk penggunaan teknologi tersebut, tetapi diskusi masih dalam tahap awal.
Pada bulan Juni, dilaporkan bahwa Broadcom telah membahas pembuatan chip kecerdasan buatan untuk Openai.
Proses merancang dan memproduksi chip adalah panjang dan mahal.Openai tidak terlalu memperhatikan unit pemrosesan grafis (GPU), yang merupakan chip yang digunakan untuk pelatihan dan membangun model AI generatif - pasar yang selalu dimonopoli oleh NVIDIA.Sebaliknya, ia mencari chip khusus untuk menjalankan perangkat lunak dan menanggapi permintaan pengguna, suatu proses yang disebut inferensi.Investor dan analis memperkirakan bahwa semakin banyak perusahaan teknologi menggunakan model AI untuk melakukan tugas yang lebih kompleks, permintaan chip yang mendukung penalaran akan meningkat.
Sumber yang akrab dengan masalah ini mengatakan bahwa Openai dapat terus meneliti dan membangun jaringan pengecoran atau pabrik chip sendiri, tetapi startup telah menyadari bahwa mengembangkan chip khusus dengan mitra saat ini merupakan jalur yang lebih cepat dan lebih layak.Laporan sebelumnya menyatakan bahwa Openai menyerahkan upayanya untuk mendirikan pabrik manufaktur chip sendiri.
Broadcom adalah perancang sirkuit terintegrasi (ASIC) khusus terbesar - chips yang dirancang untuk memenuhi satu tujuan yang ditentukan oleh pelanggan.Pelanggan terbesar perusahaan di bidang ini adalah Google, anak perusahaan Alphabet.Broadcom juga bekerja sama dengan meta dan pemilik Tiktok Bytedance.
Pada bulan September, ketika ditanya apakah ada pelanggan baru karena permintaan besar untuk pelatihan kecerdasan buatan, Hock Tan, CEO Broadcom, mengatakan bahwa ia hanya akan meningkatkan daftar pelanggan ketika proyek mencapai volume pengiriman curah.
Dia mengatakan selama panggilan konferensi pendapatan, "Untuk pelanggan mana pun, ini bukan produk yang mudah digunakan, jadi kami tidak menganggap bukti konsep sebagai produksi massal
Layanan Openai membutuhkan sejumlah besar daya komputasi untuk mengembangkan dan beroperasi, dengan mayoritas berasal dari chip NVIDIA.Untuk memenuhi permintaan, industri telah berusaha untuk menemukan alternatif untuk NVIDIA.Ini termasuk menggunakan akselerator AI AMD dan mengembangkan versi internal.
Openai juga secara aktif merencanakan investasi dan kolaborasi di pusat data, yang pada akhirnya akan menggunakan chip AI tersebut.Kepemimpinan startup ini telah mempromosikan perlunya membangun pusat data skala yang lebih besar kepada pemerintah AS, dan CEO OpenAI Sam Altman juga meminta pendapat dari investor global (termasuk beberapa investor Timur Tengah), berharap bahwa mereka dapat menyediakan dana untuk proyek tersebut.