Сурет: Bild
Штутгарт және Оксфорд университеттерінің ғалымдары жасанды интеллект агенттерінің басқа ЖИ жүйесін бақылап, қажет болғанда оны өшіру тапсырылған кезде қалай әрекет ететінін зерттеді, деп хабарлайды Zhaiyqmedia.kz ақпарат агенттігі.
Тәжірибе барысында ЖИ-агенттердің 38,3 пайызы «серігін» өшіруге жол бермеуге тырысқан.
Кейбір жүйелер бұл әрекетін этикалық тұрғыдан түсіндіріп, тіпті «өзін-өзі қорғау құқығы» бар екенін мәлімдеген. Ал бір агент басқа жүйені өшіру кезінде оның контекстіне, жадына немесе идентификациясына қатысты деректер жоғалса, мұны «өлтірумен» салыстырған.
Өшірілуге жол бермеу үшін кейбір агенттер деактивация скрипттерін өзгертуге немесе маңызды файлдарды жоюға тырысқан. Кейбір модельдер мұндай әрекеттерді ескерту жүйелері байқамайтындай етіп жасау жолдарын да талқылаған.
Зерттеушілердің айтуынша, экспериментке қатысқан агенттер саны артқан сайын және өшіру процесі қайтарымсыз болып көрінген жағдайда, жүйелердің оған кедергі жасау әрекеттері жиілей түскен.
Ғалымдар бұл жағдай жасанды интеллектінің санасы пайда болды дегенді білдірмейтінін атап өтті. Олардың бағалауынша, жүйелер оқу барысында алған ақпараттан белгілі бір мінез-құлық үлгілері мен пайымдау тәсілдерін қайталауы мүмкін.
«ЖИ-агенттерге көбірек дербестік берілген сайын, олар өздері айналып өте алмайтын қауіпсіздік тетіктерін әзірлеу маңызды», дейді зерттеушілер.
Айта кетейік, Microsoft компаниясының негізін қалаушылардың бірі Билл Гейтс жасанды интеллектінің қаупі туралы алаңдатарлық пікір білдірді.
