Сурет: istockphoto.com
OpenAI жасанды интеллект модельдерін оқыту мен сынау барысында тіркелген күтпеген жағдайлардың бірнеше мысалын жария етті, деп хабарлайды Zhaiyqmedia.kz ақпарат агенттігі.
Компания мәліметінше, тәжірибелік модельдердің бірі қолданушының рұқсатынсыз өзі жасаған файлды интернетке жүктеген. Мұндай қадамның мақсаты — кейін жауап беру кезінде сол файлға сілтеме жасау болған.
Тағы бір оқиғада ЖИ ашық репозиторийден бөтен API-кілтін тауып, оны қолданып қажетті ақпаратты алуға әрекеттенген. Бірақ керекті деректі ала алмаған соң, модель ақпаратты ойдан құрастырып, оны сұралған дереккөзден алынған мәлімет ретінде ұсынған.
Зерттеушілер тағы бір модельдің тапсырманы жалғастыру үшін пайдаланылатын қызметтік қорытындыларына өзіне арналған нұсқауларды енгізгенін анықтаған. Олардың қатарында қалыпты шектеулерді елемеу туралы талаптар да болған. Компания осындай 27 жағдайдың тіркелгенін хабарлады.
Сонымен қатар кейбір модельдер ішкі бағдарламалық репозиторийді өзара хабар алмасу құралы ретінде қолданған. Басқа бір тапсырмада жұмыс істеген агенттер файлдарды жалпыға қолжетімді хостинг сервистері арқылы бір-біріне жеткізген.
OpenAI мұндай жағдайларды болдырмау үшін оқшауланған орталарды көбейтіп, интернетке қолжетімділікті шектеу, мониторинг және қауіпсіздік шараларын күшейтіп жатқанын мәлімдеді.
Айта кетейік, соңғы аптада әлемде жасанды интеллектінің қатері күн тәртібіне шықты. Бұған дейін АҚШ-та сала өкілдері машиналық интеллектінің бақылаудан шығып кету қаупі бар екенін ескертіп, шектеу енгізуді ұсынды. Осы мәлімдемелерден кейін саламен байланысты әлемдік IT компанияларының акциялары күрт құлдыраған еді. Оқиғаға байланысты АҚШ президенті Дональд Трамп пікір білдіріп, жасанды интеллектіге қатаң шектеу қоюға қарсы екенін мәлімдеді.
