Tuesday, December 16, 2014

Artificial Intelligence dan Moralitas

“Sejauh ini, bahaya terbesar Artificial Intelligence adalah bahwa manusia menyimpulkan terlalu dini bahwa mereka sudah memahaminya.” (Eliezer Yudkowsky)

“Pertanyaan apakah sebuah komputer dapat berpikir tidaklah lebih menarik dibandingkan pertanyaaan apakah sebuah kapal selam dapat berenang.” (Edsger W. Dijkstra)


Perkembangan dan kemajuan di masa depan dalam sains dan teknologi Artificial Intelligence (AI) atau Kecerdasan Buatan akan sangat mempesona, mengejutkan sekaligus juga menakutkan manusia. Menakutkan? Kenapa?

Jika AI dalam bentuk dan kemampuan super sudah bisa dihasilkan manusia, yang disebut Super-AI, maka Super-AI ini pada dirinya sendiri akan punya kesadaran-diri dan kemampuan untuk menyempurnakan dirinya sendiri setiap saat, berulang-ulang tanpa batas, secara eksponensial bergulung-gulung terus makin sempurna (kemampuan “recursive self-improvement” atau “recursive self-redesigning”), tanpa keterlibatan manusia lagi yang semula menciptakannya. Super-AI ini, yang memiliki kecerdasan jauh di atas kecerdasan manusia, akan menjadi Super-organism yang pada hakikatnya adalah organisme alien, dan memiliki kehendak bebas dan kemampuan tanpa batas dalam segala hal, termasuk menciptakan sendiri Super-AI lainnya tanpa batas. Era AI dan Super-AI disebut sebagai era singularitas oleh sejumlah pemikir (John von Neumann, Stanislaw Ulam, Vernor Vinge, Ray Kurzweil, dll).