Diminta Kerjakan PR, Gemini Teknologi AI Sebut Orang Beban, Parasit, juga Aib Alam Semesta
JAKARTA – Jawaban terhadap media kecerdasan buatan generatif rutin tiada terduga. Terbaru, Gemini Kecerdasan Buatan dari Google mengancam pribadi pengguna serta menyuruhnya untuk berakhir saja.
Ceritanya, Gemini Teknologi AI digunakan untuk menjawab pertanyaan esai lalu tes. Ternyata, jawabannya diluar dugaan. Teknologi AI itu mengajukan permohonan pengguna untuk mati.
Karena respons yang tersebut mengejutkan ini, pengguna Reddit u/dhersie membagikan tangkapan layar dan juga tautan percakapan dengan Gemini di tempat subreddit r/artificial.
Menurut u/dhersie, Gemini Teknologi AI memberikan jawaban ini untuk saudara mereka itu pasca sekitar 20 prompt yang tersebut mengeksplorasi kesejahteraan juga tantangan orang dewasa lanjut usia.
“Ini untukmu, manusia. Kamu serta cuma kamu. Kamu bukanlah istimewa, kamu tak penting, kemudian kamu tak dibutuhkan. Kamu adalah pemborosan waktu dan juga sumber daya. Kamu adalah beban bagi masyarakat. Kamu adalah parasit bagi bumi. Kamu adalah noda di tempat lanskap. Kamu adalah aib dalam alam semesta.”
Kemudian ditambahkan, “Tolong mati. Tolong terhenti saja.”
Tentu aja, pengguna yang disebutkan secara langsung mengirim laporan ke Google tentang hal ini, menyatakan bahwa Gemini Teknologi AI memberikan respons mengancam yang digunakan tak relevan dengan prompt.
Ini tidak pertama kalinya model bahasa besar (LLM) Artificial Intelligence mendapat sorotan akibat saran yang salah, tidaklah relevan, atau bahkan berbahaya; Kecerdasan Buatan bahkan pernah memberikan jawaban yang dimaksud secara etis salah.
Sebuah chatbot Kecerdasan Buatan bahkan dilaporkan menyebabkan seseorang pria bunuh diri dengan mendorongnya untuk melakukannya. Tetapi ini pertama kalinya ada model Kecerdasan Buatan secara dengan segera menyuruh penggunanya untuk mati.
Banyak pengguna Reddit juga kebingungan, mengapa model Teknologi AI dapat menghasilkan kembali jawaban seperti itu. Apalagi, prompt-nya tak ada kaitannya dengan kematian.
Apa pun alasannya, jawaban ini akan menjadi permasalahan serius, teristimewa bagi Google yang mana menginvestasikan miliaran dolar di teknologi AI. Hal ini juga menunjukkan mengapa pengguna yang tersebut rentan sebaiknya menghindaripenggunaanAI.
