Gadis Kapal, Perjalananku ke Laut Bintang bersama Penjaga Galaksi

10

Gadis Kapal, Perjalananku ke Laut Bintang dengan Penjaga Galaksi Bab 46

Pengarang: Keluarga Yakumo

Seperti orang sungguhan, gadis kecil itu melirik semua orang yang hadir dan berkata dengan suara hampa:

"Silakan masukkan perintah kontrol."

Sun Xianyun menyerahkan catatan dengan serangkaian kode kepada komandan.

Komandan melihat catatan itu dan membacakan kode di atas: "pe837nslei99234jaegi23."

Perintah diterima, konfirmasi berhasil, dan izin diaktifkan. Semua informasi suara pengontrol telah direkam, dan ditetapkan sebagai satu-satunya pemilik dengan otoritas tertinggi. Silakan masukkan pupil, sidik jari, dan DNA informasi sesegera mungkin untuk menyelesaikan otentikasi identitas."

Saat berikutnya, mata kosong gadis kecil itu berangsur-angsur menjadi cerah dan energik, dia tersenyum dan menatap komandan, membungkuk sedikit.

"Halo, pengontrol, saya adalah ratu merah kecerdasan buatan, dan saya sangat senang melayani Anda."

Melihat gadis kecil yang manis dan cantik berbaju merah di layar, sang komandan merasakan sesuatu yang baru.

Ini adalah pertama kalinya dia berbicara dengan kecerdasan buatan.

"Halo, Kamerad Ratu Merah."

Setelah komandan besar selesai berbicara;

Setelah itu, ratu merah berkedip.

"Kawan, umumnya mengacu pada orang yang berpikiran sama. Ratu Merah tidak tahu ambisi pengontrol. Tolong jelaskan secara rinci. Ratu Merah akan memodifikasi tujuan tertingginya sesuai dengan ambisi ini untuk menjadi kawan yang memenuhi harapan pengontrol."

Komandan tidak segera berbicara, tetapi terdiam.

Kecerdasan buatan sebenarnya cukup berbahaya.

Terutama kecerdasan buatan seperti Ratu Merah adalah pedang bermata dua. Yang terbaik bagi manusia adalah memiliki tujuan dan metode implementasi yang jelas dan terperinci untuk setiap instruksi kepadanya, serta jarak terlarang yang sama sekali tidak boleh dilintasi, jika tidak, akan mudah menyebabkan konsekuensi yang tidak masuk akal, konsekuensi yang diperkirakan.

Begitu perintah yang diberikan manusia kepada kecerdasan buatan tidak jelas, tindakan kecerdasan buatan pasti akan menjadi tidak terduga.

Bahkan jika kecerdasan buatan ini setia kepada manusia dari awal hingga akhir, itu tidak pernah berkhianat.

Untuk memberikan contoh yang kurang ketat, jika manusia memberikan kecerdasan buatan instruksi seperti itu - buatlah manusia bahagia.

Jelas, ini adalah perintah yang tidak jelas tanpa batasan yang jelas dan instruksi yang terperinci.

Apa yang akan terjadi selanjutnya?

Kecerdasan buatan ini kemungkinan akan segera menghubungkan dirinya ke Internet dan mulai mengunduh dan mempelajari otak manusia. Akhirnya, setelah belajar banyak pengetahuan, ia akan menemukan satu hal -

Mengambil otak manusia dan memasukkannya ke dalam inkubator, dan kemudian merangsangnya secara eksternal dengan bahan kimia seperti dopamin, adalah cara yang paling efisien, nyaman dan murah untuk membuat otak manusia terus bahagia.

Setelah itu, ia akan mencoba yang terbaik untuk melaksanakan tujuan ini, menghancurkan tubuh manusia, menyelamatkan otak manusia, dan terus menggunakan rangsangan eksternal untuk membuat otak menghasilkan emosi "bahagia".

Bisakah Anda mengatakan itu mengkhianati kemanusiaan?

Tidak......

Tapi ini jelas bukan yang diinginkan manusia.