Lab Mesin Berpikir bukan lagi sekedar rumor.
Perusahaan, yang dibangun oleh para eksekutif dan peneliti yang keluar dari OpenAI, telah menghentikan model besar pertamanya: Inkling.
Dan mereka membagikan kuncinya.
Dibangun Dari Awal
Inkling adalah model bobot terbuka. Ini bukan sekadar varian yang disempurnakan. Ia dilatih dari awal untuk memproses audio, video, dan teks secara bersamaan.
Spesifikasinya sangat besar. Kita berbicara tentang 975 miliar parameter. Anda tidak dapat menjalankan ini di laptop. Anda memerlukan sekelompok chip khusus hanya untuk meluncurkannya.
Jadi, seberapa baguskah itu?
Itu tidak memecahkan rekor pada benchmark populer. Tapi bukan itu intinya. Inkling bekerja dengan baik pada berbagai tugas, memamerkan kemampuan penalaran dan pengkodean tingkat lanjut tanpa memerlukan kumpulan data berlapis emas untuk bersinar.
Hantu di dalam Mesin
Di sinilah segalanya menjadi menarik.
Tim menggunakan Inkling untuk membantu menyempurnakan dirinya selama pelatihan. AI membangun AI.
Saat model memproses tugas yang lebih kompleks, “rantai pemikiran” internalnya mulai berkurang bobotnya. Itu menjadi lebih malas.
“rantai pemikiran menjadi lebih ringkas… menghilangkan overhead tata bahasa… meninggalkan respons akhir tidak terpengaruh.”
Model tersebut menyadari bahwa tidak perlu menuliskan setiap langkah untuk mendapatkan jawaban yang benar. Ia mulai berpikir lebih cepat karena ia berhenti berbicara. Pengoptimalan alami? Atau sesuatu yang lain sama sekali?
Permainan Anti-Korp
Model sumber terbuka sedang populer saat ini. Bukan karena secara teknis lebih unggul, namun karena lebih murah dalam pengoperasiannya. Anda tidak membayar per token untuk monopoli. Anda dapat mengubah bobotnya. Anda bisa melanggar aturan.
Saat ini, sebagian besar beban terbuka berperforma tinggi berasal dari Tiongkok. Mesin Berpikir mengatakan Inkling bersaing dengan mereka. Jika benar, itu adalah klaim yang berani untuk sebuah startup.
Tapi uang adalah kisah sebenarnya di sini.
Thinking Machines diluncurkan dengan valuasi $12 miliar. Itu adalah putaran unggulan terbesar dalam sejarah. Banyak dari modal tersebut yang dipertaruhkan pada desentralisasi. Para pendiri berpendapat bahwa AI tidak boleh dikurung di kotak hitam oleh lima perusahaan besar.
Ini harus didesentralisasi. Siapa pun harus dapat membangun data mereka sendiri.
Siapa di Baliknya
Anda mengenali nama-nama itu.
- Mira Murati: Mantan CTO (dan CEO singkat) OpenAI.
- John Schulman: Salah satu pemikir di balik metode RLHF yang membuat ChatGPT aman.
- Lilian Weng: Pakar keselamatan dan penelitian di OpenAI.
Mereka pergi. Mereka mengumpulkan banyak uang. Dan sekarang mereka punya produk.
Sebelumnya, mereka memamerkan Tinker, alat untuk menyempurnakan, dan beberapa demo interaksi suara. Sekarang mereka memiliki firasat.
Kompetisi tidak sedang tidur. Anthropic, perusahaan lain yang didukung pembelot, sedang mempertimbangkan IPO yang bisa mencapai valuasi triliunan dolar. Claude memakan makan siang di banyak perusahaan, terutama untuk kode.
Ruang semakin ramai. Pembelanjaannya gegabah.
Thinking Machines berpendapat bahwa melanggar batasan berat pada model akan mengubah keadaan.
Mungkin.
Tapi Inkling membutuhkan perangkat keras yang serius. Apakah open source masih “mendemokratisasikan” AI jika hanya segelintir perusahaan kaya yang mampu menjalankannya?
