Сурет: 24kg
АҚШ билігі Anthropic компаниясына өзінің ең қуатты жасанды интеллект модельдеріне шетел азаматтарының қолжетімділігін жабуды тапсырды. Осы талапқа сәйкес компания АҚШ ішіндегі және сыртындағы барлық пайдаланушыларға, соның ішінде Anthropic-та жұмыс істейтін шетелдік қызметкерлерге де қолжетімділікті толық тоқтатты, деп хабарлайды Zhaiyqmedia.kz ақпарат агенттігі.
Компания бұл бұйрықтың нәтижесінде Fable 5 және Mythos 5 модельдеріне барлық клиенттер үшін қолжетімділікті кенеттен тоқтатуға мәжбүр болғанын мәлімдеді.
Билік бұл шешімді қауіпсіздік органдарының талаптарымен байланыстырғанымен, нақты қандай қауіп туралы сөз болып отырғаны айтылмаған. Anthropic деректеріне сәйкес, үкімет Fable 5 моделін бұзудың бір әдісі туралы білген. Компания осы тәсілді зерттеп, кейбір әлсіз тұстарды анықтағанымен, мұндай осалдықтар басқа да ашық модельдерде бар екенін атап өткен.
Компания өкілдері модель іске қосылар алдында бірнеше апта бойы АҚШ үкіметімен, Ұлыбританияның AISI институтымен, жеке қауіпсіздік ұйымдарымен және ішкі мамандармен бірлесіп мыңдаған сағаттық тексеру жүргізілгенін айтқан. Нәтижесінде Fable жүйесінің қорғанысы бұрынғы кез келген модельден әлдеқайда мықты екені көрсетілген.
Сонымен қатар Anthropic қазіргі уақытта жасанды интеллект жүйелерін «джейлбрейк» әдістерінен толық қорғау мүмкін емес деп санайтынын жеткізді.
Компания үкімет талабын орындағанымен, осалдық табылуын коммерциялық өнімді толық тоқтатуға негіз деп санамайтынын білдірді.
Бұған дейін АҚШ Қорғаныс министрлігі (Пентагон) мен Anthropic арасында келіспеушілік туындаған. Ведомство Claude моделіне толық шектеусіз қолжетімділік сұраған, ал компания басшысы бұл талапты қабылдамаған. Кейін АҚШ президенті Дональд Трамп мемлекеттік органдарға Anthropic модельдерін пайдалануға тыйым салғаны хабарланған.
Anthropic — әлемдегі жасанды интеллект саласындағы жетекші америкалық компаниялардың бірі.
