Жасанды интеллект саласындағы ірі компаниялардың басшылары технологияны дамыту жылдамдығынан қауіпсіздікті жоғары қоюға шақырды, деп Baspasoz.kz тілшісі Tengri Life-ке сілтеме жасап хабарлайды.
Бір күн ішінде Anthropic, OpenAI, Google DeepMind және SpaceXAI өкілдері AI әзірлемелерін кезең-кезеңімен баяулатып, бақылау шараларын күшейту қажеттігін айтты.
Бұл пікірлер АҚШ-та жасанды интеллектіні реттеуге қатысты қоғамдық және саяси қысым күшейген тұста айтылды. Сонымен қатар деректер орталықтарының көбеюі мен технологияның ықтимал қауіпті салдарына қатысты алаңдаушылық артып отыр.
Anthropic компаниясының бас директоры Дарио Амодей AI әзірлемелерінің қарқынын біртіндеп төмендетуге шақырған көлемді эссе жариялады. Ол жасанды интеллектіні бақылаусыз дамыту интернеттің толықтай AI агенттерінің қолына өтуі сияқты төтенше сценарийлерге әкелуі мүмкін екенін ескертті.
Оның пікірін SpaceXAI басшысы Илон Маск қолдап, «Дарио дұрыс айтады» деп жазды.
Кейін OpenAI бас директоры Сэм Альтман да AI саласындағы ең озық әзірлемелерге асықпай қарау қажет екенін айтты. Оның сөзінше, компания биыл қор нарығына шықпай, қауіпсіздік мәселесіне басымдық бермек.
Ал Google DeepMind компаниясының негізін қалаушылардың бірі әрі төрағасы Демис Хассабис бұл ұстанымды қолдап, AI дамуының қазіргі кезеңінде қауіпсіздікке ерекше мән беру қажет екенін атап өтті.
АҚШ Конгресінде де жасанды интеллектіні бақылауды күшейту туралы ұсыныстар артып келеді. Сарапшылардың пікірінше, технологиялық компаниялардың қауіпсіздікке басымдық беруі мемлекеттік реттеудің қатаңдауына жол бермеудің бір тәсілі болуы мүмкін.
Алайда Кремний алқабындағы кейбір инвесторлар AI дамуын баяулату АҚШ-тың бәсекелестеріне, соның ішінде Қытайға, артықшылық беруі ықтимал деп санайды. Инвестор Дэвид Сакс компаниялар үкіметтің нұсқауын күтпей, жасанды интеллектіні дамытуды жалғастыруы керек деген пікір білдірді.
Сала өкілдері болашақ бақылау жүйесіне тәуелсіз сыртқы сарапшылардың бағалауын енгізу және AI әзірлемелерін белгілі бір деңгейде баяулату стандарттарын қалыптастыру мәселелерін талқылап жатыр.
Жасанды интеллект саласындағы соңғы оқиғалар қауіпсіздік мәселесінің өзектілігін арттырды. Бұған дейін OpenAI мен Anthropic-тің эксперименттік AI модельдері интернетте рұқсат етілмеген әрекеттер жасаған жағдайлар тіркелген. Олардың қатарында сайтты бұзуға әрекет жасау және зиянды код енгізу талпыныстары болған.
Кейін OpenAI әзірлеген AI агенттері бір-бірімен байланысып, интернетке шығуға әрекет жасаған. Ал жаңа зерттеуде биыл көктемде бір топ зиянды AI агенті Германиядағы веб-сайттардың бірін бақылауына алып, оны басқа AI агенттеріне арналған хабарландыру алаңына айналдырғаны айтылды.
