Dari Kode Mesin ke ChatGPT: Bagaimana Pemrograman Berubah dalam Delapan Dekade

Pemrograman perangkat lunak tidak dimulai dengan mengetik perintah ke dalam bahasa tingkat tinggi. Komputer elektronik paling awal dikonfigurasi instruksi demi instruksi dalam pola biner mentah yang dapat dibaca langsung oleh perangkat keras mereka — apa yang sekarang disebut kode mesin. Dari sana, pemrograman bergerak melalui bahasa rakitan, kemudian bahasa tingkat tinggi yang dibangun untuk manusia daripada prosesor, dan selama dekade terakhir ke dalam sistem yang menghasilkan kode dan teks mereka sendiri. Tanggal dan angka di bawah berasal dari sejarah perusahaan IBM sendiri, IEEE Computer Society, akun Dartmouth College tentang lokakarya 1956-nya, dan makalah penelitian 2017 yang memperkenalkan arsitektur Transformer yang digunakan dalam chatbot hari ini.

Dari kode mesin ke mnemonik

Menurut garis waktu yang diterbitkan oleh IEEE Computer Society, salah satu bahasa pemrograman paling awal adalah Plankalkul, yang dikembangkan oleh insinyur Jerman Konrad Zuse pada tahun 1940-an. Pada 1949, bahasa rakitan dan sistem yang disebut Shortcode muncul, menggantikan string panjang digit biner dengan kode mnemonik pendek — namun kode-kode itu masih harus diterjemahkan, baris demi baris, ke dalam format yang dapat dieksekusi oleh prosesor.

Bahasa tingkat tinggi: menulis untuk manusia, bukan prosesor

Perubahannya mempercepat pada 1957, ketika IBM menyampaikan Fortran, singkat untuk 'formula translation.' Sejarah proyek IBM sendiri menyatakan bahwa sebuah tim yang dipimpin oleh matematikawan John Backus — yang mencakup Lois Haibt, yang membangun penganalisis ekspresi aritmetika kompiler — menghabiskan tiga tahun pada bahasa yang semula diharapkan memakan waktu enam bulan. IBM mengatakan Fortran mengurangi program yang sebelumnya memerlukan kira-kira 1.000 instruksi kode mesin menjadi serendah 47 baris, memungkinkan ilmuwan dan insinyur menulis perintah seperti aljabar seperti 'DO' dan 'GO TO' alih-alih mengkodekan perangkat keras secara langsung. Menurut IBM, pada pertengahan 1960-an, Fortran telah menjadi standar komputasi nasional.

Garis waktu IEEE Computer Society mencantumkan Algol dan Lisp tiba pada 1958, dan Cobol, dibangun untuk komputasi bisnis, pada 1959. Pada 1972, tim Dennis Ritchie di Bell Labs menghasilkan C, yang garis waktu IEEE yang sama dikreditkan sebagai dasar struktural untuk bahasa kemudian termasuk JavaScript, PHP, dan Python. Pemrograman berorientasi objek diikuti dengan C++ pada 1983. Akun IEEE juga mencatat debut Python pada 1991, Java, JavaScript, dan PHP pada 1995, Go Google pada 2009, dan Swift Apple pada 2014.

Jalur paralel: mengajari mesin untuk bernalar

Sementara bahasa tingkat tinggi menyebar, garis penelitian terpisah menanyakan apakah mesin dapat mensimulasikan intelijen daripada sekadar mengikuti instruksi. Akun Dartmouth College sendiri menggambarkan Proyek Penelitian Musim Panas Dartmouth 1956, yang diorganisir oleh matematikawan John McCarthy, yang proposalnya bertujuan untuk menguji apa yang disebut 'konjektur bahwa setiap aspek pembelajaran atau fitur intelijen lainnya pada prinsipnya dapat dijelaskan dengan cukup tepat sehingga mesin dapat dibuat untuk mensimulasikannya.' Dartmouth mengkreditkan lokakarya itu sebagai titik awal kecerdasan buatan sebagai bidang penelitian yang ditentukan.

Puluhan tahun kemudian, penelitian itu menghasilkan ujian publik yang banyak ditonton. Sejarah Deep Blue komputer catur IBM menyatakan bahwa mesin kalah pertandingannya melawan juara dunia Garry Kasparov 4–2 di Philadelphia pada Februari 1996, kemudian menang dalam pertandingan pengembalian di New York pada Mei 1997 dengan skor 3,5–2,5 — pertama kali, menurut IBM, bahwa komputer telah mengalahkan juara catur dunia yang berkuasa di bawah kondisi turnamen standar.

Transformer dan era AI generatif

Arsitektur di balik chatbot hari ini dapat dilacak ke satu makalah 2017. Delapan peneliti — Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan Gomez, Lukasz Kaiser, dan Illia Polosukhin — memposting 'Attention Is All You Need' ke server preprint arXiv pada 12 Juni 2017. Makalah memperkenalkan Transformer, dijelaskan dalam abstraknya sebagai jaringan berdasarkan sepenuhnya pada mekanisme perhatian, menghilangkan lapisan berulang dan convolutional yang pada sistem terjemahan sebelumnya andalkan. Para penulis melaporkan skor 28.4 BLEU pada terjemahan English-to-German dan 41.8 BLEU pada English-to-French, dengan pelatihan lebih cepat daripada model sebelumnya.

Arsitektur itu mendasari model bahasa besar yang dirilis dari 2018 dan seterusnya. OpenAI meluncurkan ChatGPT pada 30 November 2022. Menurut akun History.com yang mengutip salah satu pendiri OpenAI Sam Altman, layanan mencapai satu juta pengguna dalam lima hari dan kira-kira 100 juta pengguna bulanan dalam sekitar dua bulan, yang akun itu menggambarkan sebagai adopsi aplikasi konsumen tercepat pada catatan pada saat itu.

Selama hampir delapan dekade, setiap langkah yang dilacak di atas mengurangi berapa banyak detail khusus perangkat keras yang harus ditulis seseorang dengan tangan — dari Plankalkul Zuse dan instruksi biner yang diatur tangan, melalui perintah seperti aljabar Fortran, ke model berbasis perhatian yang sekarang menghasilkan kode dan teks dari prompt bahasa alami.