ChatGPT dan Risiko Penggunaannya

Dalam grup membaca paper di kantor saya pekan ini, kami membaca artikel terbitan DeepMind terkait risiko etis dan sosial dari bahaya model bahasa (language models; LM). Saya mencoba mengekstraksi beberapa kalimat yang saya anggap penting dan menyalinnya ke daftar poin penting dari artikel tersebut. Lalu, saya meminta chatGPT untuk membuat artikel blog berbahasa Indonesia berdasarkan poin-poin tersebut. Berikut hasil rangkumannya.

***

Model bahasa pembelajaran mesin (LMs) memainkan peran penting dalam pengembangan teknologi saat ini. Namun, penting untuk diingat bahwa LMs juga memiliki potensi resiko yang harus dipertimbangkan. Salah satu resiko utama adalah stereotip sosial.

Stereotip sosial dapat menimbulkan dampak yang tidak adil pada alokasi sumber daya dan peluang antar kelompok sosial. Stereotip juga dapat mempengaruhi representasi, menyebabkan diskriminasi dan eksklusi serta toksisitas. Tabel 1 menunjukkan beberapa resiko lain yang terkait dengan stereotip sosial dalam LMs, seperti bahaya informasi, salah informasi, penggunaan yang kejam, interaksi manusia-komputer yang merugikan, dan dampak otomatisasi, akses, dan lingkungan.

LMs memiliki kecenderungan untuk memperkuat stereotip dan diskriminasi yang tidak adil secara default. Hal ini karena data pelatihan LMs mewakili pola historis dari diskriminasi sistemik dan bisa saja memiliki bias karena adanya representasi yang tidak adil dari beberapa komunitas. Meskipun demikian, data pelatihan yang dibutuhkan untuk mengurangi bias mungkin belum ada saat ini.

LMs mewakili bahasa dari komunitas dan waktu tertentu, sehingga norma, nilai, dan kategori pada saat itu “terkunci”. Bahasa dapat mengungkapkan beberapa karakteristik yang mungkin kurang jelas dalam modalitas lain, seperti kelas sosial (dinyatakan dalam pilihan kata, dialek atau sociolek), status pendidikan, status sebagai pembelajar bahasa asing (profisiensi), dan identitas sosial atau preferensi tertentu (slang).

Perlu diingat bahwa prediksi dari LMs akan terkadang memberikan kemungkinan tinggi pada ungkapan yang tidak benar secara faktual. Jangan lupa bahwa pandangan mayoritas bukanlah fakta. Anthropomorphising sistem juga dapat menyebabkan overreliance atau penggunaan yang tidak aman.

Kesimpulan: Model bahasa pembelajaran mesin memiliki potensi resiko yang harus dipertimbangkan, terutama dalam hal stereotip sosial. Data pelatihan yang tidak adil dapat memperkuat stereotip dan diskriminasi yang tidak adil. Oleh karena itu, penting untuk mempertimbangkan resiko ini dan berusaha untuk mengurangi bias dalam data pelatihan LMs. Pemahaman tentang stereotip sosial dan resiko dalam LMs sangat penting untuk memastikan penggunaan teknologi ini yang bijaksana dan aman bagi semua kelompok sosial.

***

Terlihat ada beberapa kata yang masih belum bisa diterjemahkan dengan baik. Namun, melihat hasil yang saya dapatkan, sudah tidak berbeda jauh dengan kemampuan mahasiswa di Indonesia dalam membuat tulisan ilmiah sejenis! Bagus atau jeleknya? Silakan tafsirkan sendiri. 🙂

Kemenangan Platform Digital

Beberapa hari yang lalu saya dapat notifikasi di kanal subscriptions YouTube saya – ada Tonight Show Premiere. Sebetulnya saya belum sempat investigasi lebih jauh ini isinya apa, tapi kelihatannya salah satu acara prime time dari PT. Netmediatama ini agaknya bergerak untuk menjadikan YouTube sebagai platform utamanya. Dibuat sebagai tayangan berdurasi sekitar 30 menit, dengan beberapa kali jeda pariwara di tengahnya. Tak ubahnya saluran TV Anda kan?

https://www.instagram.com/p/CNJhZ4CBYqO/

Stasiun TV dulu mesti punya hak siar dan frekuensi untuk dapat mengudara. Hal ini menjadi salah satu penghalang besar untuk pemain baru, karena biayanya tentu tak murah untuk mendapatkannya. NET TV sendiri awalnya menggunakan frekuensi Spacetoon. Beberapa tahun kemudian, mereka mencoba untuk menjajaki platform digital dengan membuat layanan streaming-nya sendiri – meski di belakang layar memakai platform streaming lain.

Tonight Show sendiri sempat pindah-pindah jam tayang. Tayangan yang awalnya berkonsep late night talk-show ini juga sempat “diistirahatkan” untuk beberapa lama di sekitar Ramadan tahun lalu. Bisnis TV memang sedang susah, apalagi untuk NET. yang sebenarnya menyasar kategori SES penonton yang tidak begitu banyak isinya di Indonesia. Tuan-tuan rumah dari berbagai acara di TV hanya bisa harap-harap cemas agar tayangannya tidak “bungkus”.

Ya, terus kenapa? Cuma silih berganti platform saja kan? Dulu juga radio digantikan dengan TV.

Betul. Dulu juga stasiun TV hanya terbatas. Mungkin di masa yang akan datang akan ada saingan dari YouTube sebagai platform “gratis” untuk orang banyak. Harusnya sih begitu ya. Kalau tidak, maka sumber informasi akan dikuasai beberapa pihak saja, dan itu tidak baik untuk menjaga kenetralan siaran yang dikonsumsi orang banyak.

Power tends to corrupt, and absolute power corrupts absolutely.

Lord Acton

Prioritas

Apa yang jadi prioritas dalam hidup kalian?

Selama time skip ini, orang-orang punya pilihannya masing-masing tentang keahlian apa yang perlu ditingkatkan. Ada yang belajar bahasa, ada yang belajar programming, dan tidak sedikit yang jadi lebih melek secara finansial. Tuntutan keadaan mungkin.

Saya kadang merasa bingung saja apa yang harus diprioritaskan. Contohnya, saya lagi senang belajar bahasa Spanyol di Duolingo, tapi di sisi lain saya merasa perlu untuk belajar bahasa Arab juga. Dengan waktu hanya 24 jam dalam sehari – itu pun sekitar 8 jam dipakai istirahat – tentu mesti pilih-pilih dong mana yang harus didahulukan?

Demikian halnya dengan bahan bacaan. Wah, ini sih lebih banyak lagi saingannya. Tidak hanya dalam bentuk buku, bahan bacaan juga bisa berupa artikel, paper, atau ya baca linimasa Twitter. Maunya kan “produktif” ya dengan baca buku, tapi tentu saja sering kalah sama Twitter-an.

Sudahkah Anda menentukan dengan baik prioritas Anda hari ini?