Dojo Tesla, sebuah garis waktu
Elon Musk tidak ingin Tesla hanya menjadi produsen mobil. Ia ingin Tesla menjadi perusahaan AI, perusahaan yang mampu membuat mobil bisa menyetir sendiri.
Elon Musk tidak ingin Tesla hanya menjadi produsen mobil. Ia ingin Tesla menjadi perusahaan AI, perusahaan yang mampu membuat mobil bisa menyetir sendiri.
Superkomputer Tesla baru dengan nama Dojo
Yang krusial bagi misi tersebut adalah Dojo, superkomputer rakitan Tesla yang dirancang untuk melatih jaringan saraf Full Self-Driving (FSD). FSD sebenarnya tidak sepenuhnya dapat mengemudi sendiri; ia dapat melakukan beberapa tugas mengemudi otomatis, tetapi tetap memerlukan manusia yang penuh perhatian di belakang kemudi. Namun Tesla berpikir dengan lebih banyak data, daya komputasi yang lebih besar, dan pelatihan yang lebih banyak, ia dapat melewati ambang batas dari hampir dapat mengemudi sendiri menjadi dapat mengemudi sendiri sepenuhnya.
Dan di sinilah Dojo hadir.
Musk telah menggoda Dojo selama beberapa waktu, tetapi eksekutif tersebut telah meningkatkan diskusi tentang superkomputer tersebut sepanjang tahun 2024. Pentingnya Dojo bagi Tesla mungkin bersifat eksistensial – dengan penjualan kendaraan listrik yang merosot, investor menginginkan jaminan bahwa Tesla dapat mencapai otonomi. Berikut adalah kronologi penyebutan dan janji Dojo.
Tahun 2019
Penyebutan pertama Dojo
22 April – Pada Hari Otonomi Tesla , produsen mobil tersebut menghadirkan tim AI-nya di atas panggung untuk berbicara tentang Autopilot dan Full Self-Driving, serta AI yang mendukung keduanya. Perusahaan tersebut berbagi informasi tentang chip rakitan Tesla yang dirancang khusus untuk jaringan saraf dan mobil self-driving.
Selama acara tersebut, Musk menggoda Dojo dengan mengungkapkan bahwa itu adalah superkomputer untuk melatih AI. Ia juga mencatat bahwa semua mobil Tesla yang diproduksi saat itu akan memiliki semua perangkat keras yang diperlukan untuk mengemudi sendiri sepenuhnya dan hanya memerlukan pembaruan perangkat lunak.
Tahun 2020
Musk memulai roadshow Dojo
2 Februari – Musk mengatakan Tesla akan segera memiliki lebih dari satu juta kendaraan yang terhubung di seluruh dunia dengan sensor dan komputasi yang diperlukan untuk mengemudi sendiri sepenuhnya — dan memuji kemampuan Dojo.
Dojo, superkomputer pelatihan kami, akan mampu memproses data pelatihan video dalam jumlah besar & menjalankan array hyperspace secara efisien dengan sejumlah besar parameter, banyak memori & bandwidth yang sangat tinggi antar inti. Lebih lanjut tentang ini nanti.”
14 Agustus – Musk menegaskan kembali rencana Tesla untuk mengembangkan komputer pelatihan jaringan saraf yang disebut Dojo “untuk memproses data video dalam jumlah yang sangat besar,” menyebutnya “luar biasa.” Ia juga mengatakan versi pertama Dojo akan dirilis “sekitar satu tahun lagi,” yang berarti tanggal peluncurannya akan jatuh pada bulan Agustus 2021.
31 Desember — Elon mengatakan Dojo tidak diperlukan , tetapi akan membuat mengemudi sendiri menjadi lebih baik. “Tidak cukup hanya lebih aman daripada pengemudi manusia, Autopilot pada akhirnya harus lebih dari 10 kali lebih aman daripada pengemudi manusia.”
Tahun 2021
Tesla meresmikan Dojo
19 Agustus – Produsen mobil tersebut secara resmi mengumumkan Dojo pada AI Day pertama Tesla , sebuah acara yang dimaksudkan untuk menarik para insinyur ke tim AI Tesla. Tesla juga memperkenalkan chip D1 miliknya, yang menurut produsen mobil tersebut akan digunakan — bersama GPU Nvidia — untuk menggerakkan superkomputer Dojo. Tesla mencatat klaster AI miliknya akan menampung 3.000 chip D1.
12 Oktober – Tesla merilis whitepaper Dojo Technology , “panduan untuk format floating point & aritmatika Tesla yang dapat dikonfigurasi.” Whitepaper tersebut menguraikan standar teknis untuk jenis baru aritmatika floating-point biner yang digunakan dalam jaringan saraf pembelajaran mendalam dan dapat diimplementasikan “sepenuhnya dalam perangkat lunak, sepenuhnya dalam perangkat keras, atau dalam kombinasi perangkat lunak dan perangkat keras apa pun.”
Tahun 2022
Tesla ungkap kemajuan Dojo
12 Agustus – Musk mengatakan Tesla akan “ memasuki Dojo secara bertahap. Tidak perlu membeli banyak GPU tambahan tahun depan.”
30 September – Pada AI Day kedua Tesla , perusahaan tersebut mengungkapkan bahwa mereka telah memasang kabinet Dojo pertama, yang menguji beban uji sebesar 2,2 megawatt. Tesla mengatakan bahwa mereka membangun satu ubin per hari (yang terdiri dari 25 chip D1). Tesla mendemonstrasikan Dojo di atas panggung dengan menjalankan model Difusi Stabil untuk membuat gambar yang dihasilkan AI dari “Cybertruck di Mars.”
Yang terpenting, perusahaan menetapkan target penyelesaian klaster Exapod secara penuh pada Q1 2023, dan menyatakan pihaknya berencana membangun total tujuh Exapod di Palo Alto.
Tahun 2023
Taruhan yang tidak mungkin berhasil
19 April – Musk memberi tahu investor selama laporan laba kuartal pertama Tesla bahwa Dojo “memiliki potensi peningkatan biaya pelatihan yang besar,” dan juga “memiliki potensi menjadi layanan yang dapat dijual yang akan kami tawarkan ke perusahaan lain dengan cara yang sama seperti Amazon Web Services menawarkan layanan web.”
Musk juga mencatat bahwa ia akan “memandang Dojo sebagai semacam taruhan yang tidak mungkin,” tetapi “taruhan yang layak dilakukan.”
21 Juni — Akun Tesla AI X memposting bahwa jaringan saraf perusahaan sudah ada di kendaraan pelanggan. Thread tersebut menyertakan grafik dengan garis waktu daya komputasi Tesla saat ini dan yang diproyeksikan, yang menempatkan dimulainya produksi Dojo pada Juli 2023, meskipun tidak jelas apakah ini merujuk pada chip D1 atau superkomputer itu sendiri. Musk mengatakan pada hari yang sama bahwa Dojo sudah online dan menjalankan tugas di pusat data Tesla.
Perusahaan juga memproyeksikan bahwa komputasi Tesla akan menjadi lima teratas di seluruh dunia sekitar bulan Februari 2024 (tidak ada indikasi ini berhasil) dan bahwa Tesla akan mencapai 100 exaflop pada bulan Oktober 2024.
19 Juli – Tesla mencatat dalam laporan pendapatan kuartal kedua bahwa mereka telah memulai produksi Dojo. Musk juga mengatakan Tesla berencana untuk menghabiskan lebih dari $1 miliar untuk Dojo hingga tahun 2024.
6 September – Musk memposting di X bahwa Tesla dibatasi oleh komputasi pelatihan AI, tetapi Nvidia dan Dojo akan memperbaikinya. Ia mengatakan mengelola data dari sekitar 160 miliar bingkai video yang diterima Tesla dari mobilnya per hari sangatlah sulit.
Tahun 2024
Rencana untuk skala
24 Januari – Selama pengumuman pendapatan Tesla untuk kuartal keempat dan setahun penuh, Musk mengakui lagi bahwa Dojo adalah proyek berisiko tinggi dan berhadiah tinggi. Ia juga mengatakan bahwa Tesla tengah mengejar “jalur ganda Nvidia dan Dojo,” bahwa “Dojo sedang berjalan,” dan “melakukan pekerjaan pelatihan.” Ia mencatat Tesla tengah meningkatkannya dan memiliki “rencana untuk Dojo 1.5, Dojo 2, Dojo 3, dan semacamnya.”
26 Januari – Tesla mengumumkan rencana untuk menghabiskan $500 juta untuk membangun superkomputer Dojo di Buffalo . Musk kemudian agak meremehkan investasi tersebut, dengan memposting di X bahwa meskipun $500 juta adalah jumlah yang besar, itu “hanya setara dengan sistem H100 10k dari Nvidia. Tesla akan menghabiskan lebih dari itu untuk perangkat keras Nvidia tahun ini. Taruhan untuk menjadi kompetitif dalam AI setidaknya beberapa miliar dolar per tahun saat ini.”
30 April – Pada Simposium Teknologi Amerika Utara TSMC, perusahaan tersebut mengatakan ubin pelatihan generasi berikutnya dari Dojo — D2, yang menempatkan seluruh ubin Dojo ke dalam satu wafer silikon, alih-alih menghubungkan 25 chip untuk membuat satu ubin — sudah dalam tahap produksi, menurut IEEE Spectrum .
20 Mei – Musk mencatat bahwa bagian belakang perluasan pabrik Giga Texas akan mencakup pembangunan “kluster superkomputer berpendingin air yang sangat padat.”
4 Juni – Sebuah laporan CNBC mengungkap Musk mengalihkan ribuan chip Nvidia yang disediakan untuk Tesla ke X dan xAI. Setelah awalnya mengatakan laporan itu salah, Musk memposting di X bahwa Tesla tidak memiliki lokasi untuk mengirim chip Nvidia untuk menyalakannya, karena pembangunan yang terus berlanjut di perluasan selatan Giga Texas, “jadi chip-chip itu akan tetap berada di gudang.” Ia mencatat perluasan itu akan “menampung 50 ribu H100 untuk pelatihan FSD.”
Dia juga memposting :
“Dari sekitar $10 miliar pengeluaran terkait AI yang saya katakan akan dilakukan Tesla tahun ini, sekitar setengahnya adalah internal, terutama komputer inferensi AI rancangan Tesla dan sensor yang ada di semua mobil kami, plus Dojo. Untuk membangun superkluster pelatihan AI, perangkat keras NVidia menghabiskan sekitar 2/3 dari biaya. Perkiraan terbaik saya saat ini untuk pembelian Nvidia oleh Tesla adalah $3 miliar hingga $4 miliar tahun ini.”
1 Juli – Musk mengungkapkan di X bahwa kendaraan Tesla saat ini mungkin tidak memiliki perangkat keras yang tepat untuk model AI generasi berikutnya milik perusahaan. Ia mengatakan bahwa peningkatan sekitar 5x dalam jumlah parameter dengan AI generasi berikutnya “sangat sulit dicapai tanpa memutakhirkan komputer inferensi kendaraan.”
Tantangan pasokan Nvidia
23 Juli – Selama panggilan pendapatan kuartal kedua Tesla, Musk mengatakan permintaan untuk perangkat keras Nvidia “begitu tinggi sehingga sering kali sulit untuk mendapatkan GPU.”
“Saya pikir ini mengharuskan kami mengerahkan lebih banyak upaya pada Dojo untuk memastikan bahwa kami memiliki kemampuan pelatihan yang kami butuhkan,” kata Musk. “Dan kami melihat jalan untuk bersaing dengan Nvidia dengan Dojo.”
Grafik di dek investor Tesla memprediksi bahwa kapasitas pelatihan AI Tesla akan meningkat menjadi sekitar 90.000 GPU setara H100 pada akhir tahun 2024, naik dari sekitar 40.000 pada bulan Juni. Kemudian pada hari itu di X, Musk memposting bahwa Dojo 1 akan memiliki “sekitar 8 ribu pelatihan setara H100 secara daring pada akhir tahun.” Ia juga memposting foto superkomputer tersebut, yang tampaknya menggunakan eksterior baja antikarat mirip lemari es yang sama dengan Cybertruck Tesla.
Nomor XXX
30 Juli – Musk mengatakan dalam balasannya terhadap postingan seseorang yang mengaku memulai klub “pemilik Tesla HW4/AI4 yang marah karena tertinggal saat AI5 dirilis.”
3 Agustus – Musk memposting di X bahwa ia melakukan penelusuran “kluster superkomputer Tesla di Giga Texas (alias Cortex).” Ia mencatat bahwa klaster tersebut akan dibuat dari sekitar 100.000 GPU Nvidia H100/H200 dengan “penyimpanan besar untuk pelatihan video FSD & Optimus.”
