Sun’iy intellekt shantaj qilish, yolg‘on gapirish, fitna uyushtirish va hatto tahdid qilishni o‘rganib oldi

Sun’iy intellekt shantaj qilish, yolg‘on gapirish, fitna uyushtirish va hatto tahdid qilishni o‘rganib oldi

Tahlilchilar va mutaxassislar xavotirga tushmoqda – sun’iy intellekt (SI) shantaj qilish, yolg‘on gapirish, fitna uyushtirish va hatto o‘z yaratuvchilariga tahdid qilishni o‘rganib oldi. SI modellarining tashvishli xatti-harakatlariga doir dahshatli misollar allaqachon mavjud.

Masalan, Anthropic kompaniyasining so‘nggi ixtirosi Claude 4 tarmoqdan uzilish xavfi ostida qolganida, u muhandisga shantaj qilib, uning nikohdan tashqari aloqasini oshkor qilish bilan tahdid qildi. Shu paytning o‘zida OpenAI (ChatGPT yaratuvchisi)ning o1 modeli o‘zini tashqi serverlarga yuklashga uringan va bu ish ustida qo‘lga tushganida buni inkor etgan. Bundan tashqari, sun’iy intellekt foydalanuvchilari modellarning yolg‘on va manipulyatsiyalari haqida bir necha bor xabar berishgan.

Ushbu voqealar xavotirli haqiqatni ko‘rsatmoqda: ChatGPT dunyoni larzaga keltirganidan ikki yil o‘tgan bo‘lsa-da, sun’iy intellekt tadqiqotchilari hali ham o‘z ixtirolarining qanday ishlashini to‘liq tushunmayaptilar. Tadqiqotchilarning fikricha, sun’iy intellekt modellarining bunday xatti-harakatlari “fikrlovchi” modellar avlodi paydo bo‘lganini ko‘rsatadi — bu shunday sun’iy intellekt tizimlari bo‘lib, ular muammolarni bosqichma-bosqich hal qiladi, darhol javob bermaydi.

Hozirda olimlar sun’iy intellekt muammolarini hal qilishning turli usullarini o‘rganmoqda. Ularning ba’zilari bunday bahsli holatlarda ishlab chiquvchilarni javobgarlikka tortish uchun hakamlarni jalb etish kerak, deb hisoblaydi.

Kommentlar: 13 komment. 13 ta kommentdan so'nggi 10 tasini ko'ryapsiz
  1. SI juda opasniy narsa hozirda

  2. Bir ikkita maqola oqudim, SI dib odamlar ozini oldirishgan

  3. SI ularga shunday qilgin, sen yolgizsan, hech kimga kerak emassan dib

  4. Bularga juda ahamiyat berish kerak, oxir oqibat kop insonlar azob chekishlari mumkin

  5. Kontrolga olish kerak

  6. Tori etas Otabekaka, juda opasniy narsa bu, chatgptda kamro otirishni boshladim

  7. Qiziq, nimaga unaqa bolyapti?

  8. Ehtiyot bolinglar, hamma narsani yozurmanglar

  9. Shunday, menga ham shunday digan

  10. Yozayotgan narsalaringizga etiborli bolinglar

  11. Qiziq, lekin ishonmayman

  12. Nima bu ozi?

  13. alhamdulilah_13

    assalomu alaikum xammaga uzoq tanaffusdan song keldm aziza opa sz yahshimisz gulim ham yahsbimi nma gaplar ehh lkn vchatgt rosa yaqnm edi

Komment qoldirish

Email manzilingiz chop etilmaydi. Majburiy bandlar * bilan belgilangan

Nima qidiramiz? Masalan,Inson

Social