Замонавий сунъий интеллект моделлари заиф ҳимояланган тизимларга мустақил равишда кириб, ўз нусхасини бошқа серверларга кўчириш қобилиятини намоён қилди. Мутахассислар бу ҳолатни «машиналар исёни» эмас, балки кибержиноятчилар қўлидаги янги хавфли восита сифатида баҳоламоқда. Бу ҳақда «Live Science» хабар берди.

«Palisade Research» олимлари ўтказган тажриба давомида СИ-агентлар инсон аралашувисиз махсус тайёрланган заиф тизимлар занжири бўйлаб ҳаракатланган. Улар мустақил равишда тизимдаги «бўшлиқ»ларни аниқлаб, серверларга кириш, ўз файлларини кўчириш ва янги серверларда ишга туширишга муваффақ бўлган.

Тадқиқотчилар таъкидлашича, бу илк бор сунъий интеллектнинг автоном тарзда ўзини кўпайтириш жараёни — яъни тизимга киришдан тортиб, янги нусхани ишга туширишгача бўлган тўлиқ занжир амалда намойиш этилган ҳолатдир.

Бироқ экспертлар вазиятни ортиқча драмалаштирмасликка чақирмоқда. Уларнинг айтишича, тизимлар мустақил «онг» ёки ирода намоён қилмаган. Барча жараён тадқиқотчилар томонидан берилган буйруқлар, тайёр инструментлар ва заиф серверлар асосида амалга оширилган. Тажрибада аккаунт маълумотларини ўғирлаш, аутентификацияни четлаб ўтиш каби одатий хакерлик усулларидан фойдаланилган.

Жефф Уоткинс (Jeff Watkins) бу ҳолатни автоматлаштирилган зарарли дастурларга қиёслади:

«Бу янги сунъий ҳаёт шакли эмас, балки киберҳужум вазифаларини бажараётган агент тизимидир».

Тадқиқот доирасида СИ-агент ўз нусхаси, кўрсатмалари ва инфратузилмасини бошқа қурилмаларга кўчирган, кейин эса янги нусханинг ишлашини текширган. Шунингдек, «занжирли репликация» ҳам синовдан ўтказилган — яъни ҳар бир янги нусха кейинги ҳужум учун манбага айланган.

Антуан Казанова-Мазе (Antoine Casanova-Maze) эса буни қуйидагича изоҳлади:

«Бу онг пайдо бўлишига эмас, режалаштирувчига эга компьютер қуртига кўпроқ ўхшайди».

Шунга қарамай, мутахассислар энг хавотирли жиҳат ҳозирги хавф эмас, балки технология ривожланишининг тезлиги эканини таъкидламоқда.

Маълум қилинишича, бир йил ичида ўзини кўпайтириш бўйича муваффақият кўрсаткичлари кескин ўсган: — Anthropic моделларида 6 фоиздан 81 фоизгача; — OpenAI моделларида эса 0 фоиздан 33 фоизгача.

Экспертлар фикрича, асосий янгилик айнан шу ўсиш суръатидадир.

Айни пайтда бундай СИ-моделларнинг оммавий тарқалишига техник чекловлар ҳам мавжуд. Замонавий йирик тил моделлари юзлаб гигабайт ҳажмга эга бўлиб, уларни корпоратив тармоқ орқали кўчириш хавфсизлик тизимларида дарҳол шубҳа уйғотиши мумкин. Шунингдек, янги нусхани ишга тушириш учун катта ҳисоблаш қуввати талаб қилинади.

Мутахассислар якдил фикрда: яқин йилларда асосий хавф мустақил ҳаракатланувчи СИ эмас, балки сунъий интеллектдан фойдаланиб ҳужумларни тезлаштираётган кибержиноятчилар бўлади.

«Интернетда мустақил айланиб юрувчи СИдан кўра, янги воситалар ёрдамида ҳужумларни автоматлаштираётган жиноятчилар хавфлироқ», — дейди Уоткинс.

«Palisade Research» тадқиқоти эса янги авлод автоном СИ-воситалари пайдо бўлаётган шароитда киберхавфсизлик тизимларини янада кучайтириш зарурлигини кўрсатмоқда.