AI sabab insoniyatning yo‘q bo‘lib ketish ehtimoli keyingi 10 yil ichida 10 foizdan yuqori bo‘lishi mumkin.
Anthropic kompaniyasida AI xavfsizligi bo‘yicha tadqiqotchi Evan Hyubinger sun’iy intellekt sabab insoniyatning keyingi 10 yil ichida halok bo‘lish ehtimoli 10 foizdan yuqori deb hisoblaydi. Uning bu bayonoti AI sohasidagi yana bir mutaxassis — Jeykob Kokson Anthropic kompaniyasidan iste’foga chiqqanidan keyin yangradi. Kokson kompaniyalar “bizning hayotimiz bilan o‘ynayotganini” aytgan.
Avval Anthropic va OpenAI kompaniyalarida tadqiqotchi bo‘lib ishlagan Kokson X ijtimoiy tarmog‘idagi postida texnologiyalarning haddan tashqari tez rivojlanayotganidan xavotirga tushgani sababli ishdan ketishga qaror qilganini yozdi. Uning so‘zlariga ko‘ra, zamonaviy AI tizimlarini yaratayotgan odamlar “ular o‘n yillik oxirigacha barchamizni o‘ldirishi mumkinligiga chin dildan ishonishadi”.
Bu texnologiyaning kuchini yetarlicha baholamaslik kerak emas. Tez orada ular insondan ustun bo‘lgan tizimlarga aylanishi mumkin. Bunday tizimlar istalgan narsani buzib kirishi, bir kechada butun bir sohani o‘zgartirishi va real hokimiyat hamda resurslarga ega bo‘lishi mumkin.
Jeykob Kokson Anthropic va OpenAI kompaniyalarining sobiq tadqiqotchisi
Uning posti 140 milliondan ortiq ko‘rildi va uzoq yillardan beri davom etayotgan bahsni yana qizdirdi: insonlar tobora kuchayib borayotgan AI modellarini xavfsiz yaratishi va ularni nazorat qila olishi mumkinmi?
Anthropic va OpenAI kompaniyalari aksiyalarini ommaga taklif qilish ehtimoliga tayyorgarlik ko‘rayotgan bir paytda, ayrim tadqiqotchilar texnologiyalar rivojini sekinlashtirishga chaqirmoqda.
Anthropic kompaniyasida AI xavfsizligi yo‘nalishiga rahbarlik qiluvchi Evan Hyubinger ham Koksonning fikrlarini qo‘llab-quvvatladi. Uning aytishicha, kompaniyalar haqiqatan ham sun’iy intellekt insoniyatning yo‘q bo‘lib ketishiga olib kelishi mumkin bo‘lgan ssenariyni ehtimoldan xoli deb hisoblamaydi.
Jeykob haq. Biz haqiqatan ham AI barcha odamlarni o‘ldirishi mumkinligiga chin dildan ishonamiz. Shaxsan men bu keyingi o‘n yil ichida sodir bo‘lish ehtimolini 10 foizdan yuqori deb baholayman.
Evan Hyubinger Anthropic kompaniyasida AI xavfsizligi yo‘nalishi rahbari
Hyubingerning so‘zlariga ko‘ra, Anthropic xavfsizlik muammosini hal qilishga harakat qilmoqda. Ammo kompaniyada kelajakdagi superintellekt tizimlari ustidan nazoratni 100 foiz kafolatlaydigan reja hozircha yo‘q.
Mutaxassislar muhokama qilayotgan asosiy xavflardan biri — rekursiv o‘z-o‘zini takomillashtirish. Bu shunday ssenariyki, unda AI inson ishtirokisiz o‘zining yanada mukammal versiyalarini mustaqil ravishda yaratishi mumkin.
Hozircha sun’iy intellekt bunday imkoniyatga ega emas. Ammo kompaniyalar ogohlantirishicha, agar bunday qobiliyat paydo bo‘lsa, texnologiyalar ustidan nazoratni sezilarli darajada murakkablashtirishi mumkin.
Bunday xavotirlarni avval ham soha rahbarlari va tadqiqotchilari bildirgan. 2023-yilda OpenAI rahbari Sem Altman, Anthropic rahbari Dario Amodei va boshqa mutaxassislar bayonot imzolab, AI sabab insoniyatning yo‘q bo‘lib ketish xavfini kamaytirishni pandemiyalar va yadroviy urush bilan bir qatorda global ustuvor vazifa sifatida ko‘rishga chaqirishgan.
Ilmiy muhitda bunday ssenariylarni baholash uchun ba’zan p(doom) atamasi ishlatiladi. Bu AI rivojlanishi natijasida yuzaga kelishi mumkin bo‘lgan katastrofik oqibat ehtimolini ifodalovchi shartli ko‘rsatkich.
Shu bilan birga, mutaxassislar orasida yagona fikr yo‘q. Ayrim ekspertlar bunday xavflarni real deb hisoblaydi va texnologiyalarni tartibga solishni talab qiladi. Boshqalar esa bu xavotirlar haddan tashqari bo‘rttirilganini va odamlarni hozirgi, yanada dolzarb muammolardan chalg‘itayotganini aytadi.
AI ustidan nazorat masalasi allaqachon qonunchilik darajasiga ham ko‘tarilgan. Masalan, AQSHda ilg‘or AI modellarini ishlab chiqish va joriy etish uchun qoidalar yaratishga qaratilgan tashabbuslar muhokama qilinmoqda. Ular orasida FRONTIER Act hamda sun’iy superintellektni ishlab chiqishni vaqtincha to‘xtatishga qaratilgan qonun loyihasi ham bor.
