Lompat ke konten

Sains dan teknik

Studi University of Sydney: selisih sangat kecil di kondisi awal bisa mengubah hasil pelatihan jaringan saraf

Redaksi ARSTEMA · · 3 menit baca

Peneliti University of Sydney melaporkan di Nature Machine Intelligence bahwa perbedaan sangat kecil pada kondisi awal pelatihan jaringan saraf dapat menghasilkan hasil belajar berbeda, bahkan dalam lingkungan deterministik.

University of Sydney pada 6 November 2026 mengumumkan studi yang menjelaskan mengapa dua sistem kecerdasan buatan bisa mempelajari perilaku berbeda walau dilatih dalam kondisi nyaris identik. Studi itu dikerjakan Profesor Pulin Gong dari School of Physics bersama mahasiswa doktoralnya, Andrew Ly, dan terbit di jurnal Nature Machine Intelligence.

Menurut rilis universitas, sebagian ketidakpastian pada AI tidak berasal dari cacat rekayasa atau ketidakkonsistenan perangkat keras, melainkan dari matematika yang mendasari cara jaringan saraf belajar. Jaringan saraf adalah teknologi di balik sistem AI modern; ia belajar dengan menyesuaikan jutaan bahkan miliaran parameter internal selama pelatihan.

Bukan sekadar soal urutan data atau perangkat keras

Gong menyatakan bahwa peneliti selama ini sering mengaitkan perbedaan perilaku AI dengan sumber acak dari luar, misalnya urutan penyajian data latih atau variasi numerik kecil dari perangkat keras. Temuan timnya, katanya, menunjukkan hal yang lebih mendasar: setelah faktor-faktor itu disingkirkan pun, selisih yang sangat kecil pada kondisi awal model tetap dapat berujung pada hasil berbeda. Efek tersebut juga muncul di lingkungan sepenuhnya deterministik, yaitu lingkungan tempat pelatihan yang diulang seharusnya menghasilkan hasil identik.

Peta pelatihan berbentuk fraktal

Untuk menjelaskannya, peneliti memakai analogi peta. Setiap titik awal pelatihan dianggap sebagai lokasi pada peta yang diberi warna sesuai hasil akhirnya. Wilayah yang berujung pada hasil sama membentuk apa yang disebut ahli matematika sebagai "basin of attraction" atau cekungan tarikan.

Tim menemukan bukti bahwa cekungan itu tersusun sebagai fraktal yang sangat rumit, dinamai "riddled basins". Fraktal adalah pola yang tetap rumit pada perbesaran berapa pun. Dalam struktur ini, setiap titik berada sangat dekat dengan titik lain yang berujung ke hasil berbeda, dan wilayah-wilayahnya tetap saling terjalin seberapa pun peta diperbesar.

Angka dari eksperimen

  • Pada satu jaringan pengenalan citra yang lebih besar, pengaturan awal dibuat 10 miliar kali lebih presisi, tetapi reproduktibilitas tidak membaik secara terukur.
  • Mengubah pengaturan awal jaringan itu sebesar satu bit, yaitu selisih terkecil yang dapat dicatat komputer, membuat pelatihan berakhir pada konfigurasi internal berbeda dalam sekitar 48 persen kasus.
  • Peneliti melatih sekitar 500.000 jaringan saraf untuk tugas seperti pengenalan citra dan pemrosesan teks. Bukti yang konsisten dengan struktur "riddled basins" ditemukan pada beragam arsitektur, set data, dan metode pelatihan.

Kinerja berhadapan dengan reproduktibilitas

Studi ini juga menemukan pertukaran antara kinerja dan kemampuan mengulang hasil. Pengaturan yang membuat jaringan belajar paling efektif ikut membuat hasilnya lebih sulit diprediksi dan direproduksi. Menurunkan laju belajar (learning rate), yakni ukuran langkah penyesuaian yang diambil jaringan setiap kali memperbarui diri, membuat hasil dapat direproduksi, tetapi jaringan belajar kurang efektif.

Rilis itu menyebut temuan ini mungkin membantu menjelaskan sejumlah pengamatan lama di riset AI, misalnya mengapa model yang dilatih terpisah sering berperilaku berbeda, dan mengapa gangguan besar maupun sangat kecil kadang berdampak serupa pada hasil.

Apa artinya bagi pembaca

Bagi teknisi dan praktisi yang melatih ulang model untuk validasi atau pengujian, temuan ini mengingatkan bahwa data dan prosedur yang sama tidak otomatis menjamin hasil yang sama. Para peneliti berpendapat ketidakpastian ini mungkin sifat mendasar banyak jaringan saraf, bukan masalah yang dapat dihilangkan sepenuhnya lewat rekayasa. Studi ini memperkenalkan alat untuk mengukur sensitivitas tersebut dan menunjuk perancangan ulang arsitektur jaringan sebagai arah yang mungkin ditempuh ke depan agar kondisi matematis penyebab ketidakstabilan berkurang. Arah itu baru gagasan, belum solusi yang terbukti.

Gong menegaskan bahwa sistem yang dapat dipercaya memerlukan prediksi akurat sekaligus keyakinan bahwa prediksi itu dapat direproduksi. Penelitian ini didukung oleh Australian Research Council, dan para penulis menyatakan tidak ada konflik kepentingan.

Sumber

  1. Sydney researchers uncover a hidden limit to AI predictabilityThe University of Sydney · 6 November 2026
  2. Sydney Researchers Find Hidden Limit to AI PredictabilityMirage News · 5 November 2026

Pelajari lebih dalam di ARSTEMA Academy