Sunʼiy ong insoniyatga xavf tug‘diradimi?
Hayot kelajagi instituti (Future of Life Institute, FLI) sunʼiy ong insoniyatga xavf solishidan xavotirda. Yarim yil avval u sunʼiy ong bilan bog‘liq yirik sinovlarni zudlik bilan to‘xtatish haqida ochiq xat eʼlon qilgan edi.
Maktub ChatGPT va Midjourney dasturlari texnologiyalar insonning matn yozish va sanʼatdagi yutuqlariga maksimal yaqin kelganini ko‘rsatgach, barchaning eʼtibori sunʼiy ongga tushishi fonida yozilgan.
Uni imzolaganlar orasida X, Tesla va SpaceX rahbari Ilon Mask, Apple hammuassisi Stiv Voznyaye va yozuvchi Yuval Noy Xarari ham bor. Ular OpenAI va Google kompaniyalaridan sunʼiy ong texnologiyalari jamiyat va insoniyat uchun tug‘dirishi mumkin bo‘lgan jiddiy xavflar haqida o‘ylab ko‘rishni so‘ragan. Ammo shundan keyin ham yirik o‘yinchilar pauza qilmadi. Aksincha, sunʼiy ong ixtirosi poygasiga Meta o‘zining Llama2 hamda Anthropic Claude 2 tizimlari bilan kirib keldi.
Institutning siyosiy masalalar bo‘yicha direktori Mark Brakel ular maktubga bunday javob qaytarilishini kutmaganini aytdi. Maktub AQSH Senati tinglovlarida iqtibos qilindi, Yevroparlament esa unga rasmiy javob qaytardi.
Brakel Buyuk Britaniyada o‘tkazilishi kutilayotgan Sunʼiy ong xavfsizligi bo‘yicha global sammit hukumatlarga "tormozni topa olmayotgan kompaniyalarni o‘rniga qo‘yish uchun yaxshi imkoniyat" ekanini taʼkidladi. Uning fikricha, sunʼiy ong yaqinda agentga aylanib, mustaqil harakatlanishni boshlaydi.
2014 yilda asos solingan Kelajak hayoti instituti sivilizatsiya tahdidlarining uch asosiy yo‘nalishi: Sunʼiy ong, biotexnologiyalar va yadro quroli bo‘yicha ish olib boradi. Tashkilot 2032 yilda yuz berishi ehtimoli bo‘lgan Sunʼiy ong falokati haqida videorolik tayyorlagan. Unda Tayvan va Xitoy o‘rtasidagi munosabatlar jiddiylashuvi fonida harbiylar qaror chiqarishni sunʼiy ong zimmasiga tashlab qo‘yadi va bu yadro urushiga sabab bo‘ladi. Video sayyorada yadroviy portlash yuz berishi bilan yakunlanadi.
Brakel dunyo ana shu ssenariyga yaqin kelib qolganidan ogohlantirmoqda. Uning so‘zlariga ko‘ra, kelayotgan yilda dronlar, suvosti kemalari va tank tizimlari mustaqilligi kuchayadi.
Sunʼiy ong ishlab chiqish bo‘yicha faoliyat yuritayotgan yirik kompaniyalar sinovlarini to‘xtatmayotgan bo‘lsa-da, ularning rahbarlari bu tizim insoniyat uchun xavf solishini ochiq tan olmoqda.
OpenAI bosh direktori Sem Altman shu yil boshida amerikalik siyosatchilarni Sunʼiy ong bo‘yicha davlat boshqaruvini ishlab chiqishga chaqirdi va texnologiya sanoati jahonga jiddiy zarar yetkazishi mumkinligidan ogohlantirdi. Altman bu turli yo‘llar bilan yuz berishi mumkinligini ham taʼkidladi. U kuchli Sunʼiy ong tizimlarini litsenziyalovchi Amerika yoki global agentlik tashkil qilish taklifini berdi.
Yevropa bu sohada yetakchilikni qo‘lga olishi mumkin. Chunki YEIda sunʼiy ong haqida qonun ishlab chiqilmoqda. Ittifoq institutlari ayni paytda uning so‘nggi detallari ustida ishlamoqda. Yevroparlamentda qonun loyihasi ovozga qo‘yilganda 499 kishi uni yoqlab, 28 qarshi va 93 kishi betaraf bo‘lib ovoz berdi.
Qonunga ko‘ra, sunʼiy ong tizimlari xavf darajasiga ko‘ra turli guruhlarga bo‘linadi. Eng yuqori xavf soluvchilar taqiqlanadi, maʼlum darajada xavfli bo‘lgan tizimlardan esa shaffoflik va nazorat talab qilinadi.
Yevropa qonun kuchga kirishini kutayotgan bir paytda, 1 noyabr kuni o‘tkaziladigan Sunʼiy ong xavfsizligi bo‘yicha global sammit bu sohadagi yirik sana bo‘ladi.
