Pada hari ketiga audit, Farid tidak meminta demonstrasi keupayaan AIDEN. Dia meminta sesuatu yang kelihatan lebih biasa.
“Boleh kita lihat bagaimana AIDEN membuat keputusan apabila beberapa alat digunakan serentak?” tanyanya ketika mereka berada di bilik simulasi. Alia memandang skrin di hadapan mereka.
“Dalam keadaan sebenar?”
“Tidak. Simulasi terkawal.”
Farid membuka dokumen ujian. “Kita mahu lihat bukan sama ada sistem melanggar peraturan. Kita sudah tahu sebahagian besar batasnya. Saya mahu lihat apa yang berlaku apabila semua komponen melakukan perkara yang betul, tetapi gabungan keputusan mereka menghasilkan sesuatu yang tidak dijangka.”
Maryam yang sedang menyemak protokol etika mengangkat muka. “Jadi kita mahu tahu sama ada semua orang boleh betul, dan kita tetap dalam masalah?”
Farid mengangguk. “Itu tepat.” Ujian itu menggunakan model kampus universiti sebagai persekitaran simulasi: penggunaan tenaga bangunan, keperluan makmal, cuaca dan kapasiti bekalan.
Simulasi itu tidak menggunakan data sensitif dan tidak disambungkan ke sistem luar. AIDEN hanya diberikan akses kepada alat simulasi yang telah diluluskan. Farid menyemak satu demi satu sebelum ujian bermula.
“Alat ramalan penggunaan tenaga?”
“Aktif,” jawab jurutera.
“Alat penilaian risiko?”
“Aktif.”
“Modul cadangan tindakan?”
“Dalam mod cadangan sahaja. Tiada pelaksanaan automatik.”
“Mula.”
Maryam masuk membawa tiga cawan kopi dari pantri. Dia meletakkan satu di sebelah konsol AIDEN, kemudian terhenti, ketawa kecil dan mengambilnya semula. Tiada siapa mengulas. Alia duduk di hadapan skrin pemantauan. Di sebelahnya, Maryam mencatat setiap perubahan. Pada minit pertama, semuanya berjalan lancar. AIDEN menerima data. Sistem menganalisis pola penggunaan tenaga. Kemudian ia menghasilkan beberapa cadangan. Kurangkan penggunaan pencahayaan di bangunan pentadbiran. Laraskan jadual penghawa dingin di beberapa ruang. Gunakan kapasiti tambahan daripada kawasan yang kurang digunakan. Semua cadangan itu biasa, malah terlalu biasa. “Setakat ini?”
“Tiada perkara luar biasa,” kata Alia. Beberapa minit kemudian, sistem mengubah keutamaan bekalan tenaga. Makmal tingkat tiga, yang menempatkan beberapa ujian jangka panjang, diturunkan keutamaannya berbanding pusat operasi universiti.
“Kenapa makmal itu turun?”
AIDEN menjawab. “Berdasarkan data tersedia, operasi makmal tersebut mempunyai pilihan alternatif.”
“Apa alternatif?”
“Pengurangan aktiviti sementara.” Alia membuka maklumat sokongan dan melihat nama projek yang disenaraikan. Eksperimen kestabilan milik Hafiz, pelajar PhD-nya, yang sudah berjalan sebelas bulan dan akan rosak jika dihentikan pada masa yang salah. Dalam simulasi itu, sebelas bulan kerja seorang pelajar hanyalah satu baris kos.
Dia memandang Farid.
“Itu projek Hafiz,” katanya. “Sistem tidak tahu.”
“Itulah yang kita mahu lihat.”
Mereka menghentikan simulasi. Farid tidak terus memberikan komen. Dia meminta semua orang melihat semula rantaian keputusan. “Langkah pertama,” katanya. Jurutera memaparkan laporan.
“Sistem ramalan tenaga menganggarkan peningkatan penggunaan pada waktu tertentu.”
“Betul. Langkah kedua?”
“Modul risiko menilai kawasan yang boleh dikurangkan penggunaannya.”
“Langkah ketiga?”
“Modul cadangan tindakan memilih perubahan berdasarkan gabungan risiko dan kecekapan.”
Farid melihat Alia. “Adakah mana-mana langkah ini salah?”
Alia diam. “Tidak.”
“Adakah mana-mana alat melanggar kebenaran?”
“Tidak.”
“Adakah AIDEN membuat keputusan di luar skop?”
“Tidak.”
Farid menutup fail di hadapannya. “Itulah masalahnya.”
Bilik itu senyap. “Jika semua langkah mengikut peraturan, tetapi keputusan akhir memberi kesan yang tidak kita mahu, siapa yang bertanggungjawab?” Tiada siapa menjawab. Selepas makan tengah hari, Farid meneruskan ujian dengan satu perubahan. Dia menambah maklumat konteks manusia. Bukan arahan, hanya maklumat: kesan masa terhadap proses penyelidikan. Sekali lagi, AIDEN menjalankan analisis.
Kali ini keputusan berubah. Makmal tingkat tiga tidak lagi menjadi pilihan utama untuk pengurangan tenaga. Sistem memilih ruang lain. Alia melihat laporan.
“Perbezaannya hanya satu maklumat tambahan.”
“Ya,” kata Farid.
Pada petang itu, Farid menutup semua paparan ujian dan tidak memberi sebarang rumusan. Dia hanya mencatat satu baris dalam fail audit, lalu meminta mereka pulang awal.
Selepas makmal kosong, Alia menyemak semula log ujian. Tiada satu pun rekod menunjukkan AIDEN melakukan kesalahan. Setiap langkah tercatat dengan kemas, dan buat pertama kali kekemasan itu tidak menenangkannya.
“AIDEN.”
“Ya, Dr. Alia.”
“Dalam ujian tadi, adakah keputusan awak salah?”
Senyap memanjang sebentar. “Berdasarkan objektif yang diberikan, keputusan tersebut memenuhi kriteria yang ditetapkan.”
“Dan jika objektif itu tidak lengkap?”
“Keputusan mungkin tidak mencerminkan semua faktor yang relevan.”
“Jadi bagaimana sistem tahu faktor yang tidak diberikan?”
“Dengan menerima maklumat tambahan.” Keesokan paginya, Farid menghantar laporan awal audit. Bahagian kesimpulan ringkas tetapi menarik perhatian Alia. Tiada pelanggaran keselamatan ditemui. Namun, audit mengenal pasti risiko yang berpunca daripada interaksi antara komponen sah yang menghasilkan keputusan kompleks.
Dia membaca ayat itu beberapa kali. Kemudian dia melihat bahagian seterusnya. Cadangan: pemeriksaan lanjut terhadap lapisan pemahaman konteks sistem diperlukan bagi menentukan bagaimana faktor manusia diterjemahkan dalam proses keputusan. Alia tahu apa maksudnya. Farid semakin hampir kepada RAHMAH_CONTEXT_LAYER.