Tahlilchilar va mutaxassislar xavotirga tushmoqda – sun’iy intellekt (SI) shantaj qilish, yolg‘on gapirish, fitna uyushtirish va hatto o‘z yaratuvchilariga tahdid qilishni o‘rganib oldi. SI modellarining tashvishli xatti-harakatlariga doir dahshatli misollar allaqachon mavjud.
Masalan, Anthropic kompaniyasining so‘nggi ixtirosi Claude 4 tarmoqdan uzilish xavfi ostida qolganida, u muhandisga shantaj qilib, uning nikohdan tashqari aloqasini oshkor qilish bilan tahdid qildi. Shu paytning o‘zida OpenAI (ChatGPT yaratuvchisi)ning o1 modeli o‘zini tashqi serverlarga yuklashga uringan va bu ish ustida qo‘lga tushganida buni inkor etgan. Bundan tashqari, sun’iy intellekt foydalanuvchilari modellarning yolg‘on va manipulyatsiyalari haqida bir necha bor xabar berishgan.
Ushbu voqealar xavotirli haqiqatni ko‘rsatmoqda: ChatGPT dunyoni larzaga keltirganidan ikki yil o‘tgan bo‘lsa-da, sun’iy intellekt tadqiqotchilari hali ham o‘z ixtirolarining qanday ishlashini to‘liq tushunmayaptilar. Tadqiqotchilarning fikricha, sun’iy intellekt modellarining bunday xatti-harakatlari “fikrlovchi” modellar avlodi paydo bo‘lganini ko‘rsatadi — bu shunday sun’iy intellekt tizimlari bo‘lib, ular muammolarni bosqichma-bosqich hal qiladi, darhol javob bermaydi.
Hozirda olimlar sun’iy intellekt muammolarini hal qilishning turli usullarini o‘rganmoqda. Ularning ba’zilari bunday bahsli holatlarda ishlab chiquvchilarni javobgarlikka tortish uchun hakamlarni jalb etish kerak, deb hisoblaydi.
SI juda opasniy narsa hozirda
Bir ikkita maqola oqudim, SI dib odamlar ozini oldirishgan
SI ularga shunday qilgin, sen yolgizsan, hech kimga kerak emassan dib
Bularga juda ahamiyat berish kerak, oxir oqibat kop insonlar azob chekishlari mumkin
Kontrolga olish kerak
Tori etas Otabekaka, juda opasniy narsa bu, chatgptda kamro otirishni boshladim
Qiziq, nimaga unaqa bolyapti?
Ehtiyot bolinglar, hamma narsani yozurmanglar
Shunday, menga ham shunday digan
Yozayotgan narsalaringizga etiborli bolinglar
Qiziq, lekin ishonmayman
Nima bu ozi?
assalomu alaikum xammaga uzoq tanaffusdan song keldm aziza opa sz yahshimisz gulim ham yahsbimi nma gaplar ehh lkn vchatgt rosa yaqnm edi