Anthropic предлага временно забавяне на развитието на изкуствения интелект

Една от водещите американски компании в сферата на изкуствения интелект – Anthropic – постави на обществено обсъждане идеята за временно ограничаване или забавяне на развитието на най-модерните AI системи. Според компанията подобна мярка би дала време на обществото, институциите и научната общност да се адаптират към бързите технологични промени.

Темата за контрола върху изкуствения интелект става все по-актуална както в САЩ и Китай, така и в Европа, където се обсъждат регулации за сигурността и етичната употреба на новите технологии.

Глобална координация вместо технологична надпревара

Anthropic, разработчик на моделите Claude, представи предложението си чрез института Anthropic Institute. Компанията настоява за създаването на международен механизъм за координация, който да предотврати ситуация, при която отделни държави или корпорации използват евентуално забавяне на конкурентите си, за да получат технологическо предимство.

„Смятаме, че би било полезно за света да разполага с възможността да забави или временно да спре развитието на най-напредналия изкуствен интелект, за да могат обществените структури и изследванията в областта на сигурността да наваксат технологичния напредък“, посочват от компанията.

Anthropic припомня примера с Договора за ликвидиране на ракетите със среден и малък обсег (INF Treaty), който през Студената война създаде механизъм за контрол върху въоръженията. Според компанията подобен международен модел би могъл да се приложи и към изкуствения интелект, макар и с далеч по-големи трудности.

AI системите са по-трудни за контрол

От Anthropic подчертават, че технологиите за изкуствен интелект могат да бъдат много по-лесно укривани и развивани в тайна в сравнение с традиционните военни програми.

Компанията предупреждава, че при липса на глобална координация правителствата и технологичните компании ще бъдат поставени под силен натиск от конкуренцията и геополитическите интереси.

„Без международен механизъм за координация компаниите и държавите ще трябва да вземат трудни решения за сигурността под натиска на конкуренцията и геополитическите съображения“, се посочва в позицията на компанията.

Съпротива срещу идеята в САЩ

Предложението вероятно ще срещне сериозна съпротива в Съединените щати. Част от американските технологични лидери и представители на администрацията смятат, че всяко забавяне на развитието на AI може да даде стратегическо предимство на Китай.

В последните години надпреварата между американските и китайските компании в сферата на изкуствения интелект се превърна в ключов елемент от глобалната икономическа и технологична конкуренция. В този контекст ограниченията често се разглеждат като риск за националната сигурност и икономическото влияние.

Въпреки това Доналд Тръмп заяви, че по време на свое посещение в Пекин е обсъдил възможността за сътрудничество между САЩ и Китай по въпросите на сигурността на изкуствения интелект.

Репутация на компания, фокусирана върху етиката

Anthropic е основана от бивши служители на OpenAI и през последните години изгради репутация на компания, която поставя акцент върху етиката и безопасността при разработването на AI технологии.

В същото време фирмата е критикувана от представители на индустрията и от американски политически среди, които я обвиняват, че преувеличава рисковете около изкуствения интелект. Според критиците подобни предупреждения се използват и като маркетингов инструмент в конкуренцията с OpenAI и други големи компании.

Ограничен достъп до новия модел Mythos

Anthropic съобщава, че през последните два месеца е ограничила разпространението на своя най-нов модел Mythos, за да бъдат внедрени допълнителни мерки за киберсигурност преди публичното му пускане.

Компанията очаква през следващите седмици да представи нови модели със сходни възможности, а конкуренти като OpenAI, Google и китайската DeepSeek също подготвят подобни системи.

Опасения около „самоусъвършенстващия се“ AI

Като аргумент за необходимостта от международен контрол Anthropic посочва вътрешни анализи, според които в бъдеще може да бъде достигнат етапът на т.нар. „рекурсивно самоусъвършенстване“. Това означава, че AI системите биха могли сами да обучават и създават свои наследници с все по-малка човешка намеса.

Компанията подчертава, че няма гаранция подобен сценарий да се реализира, но ако настоящите тенденции продължат, той става „правдоподобен“.

Според Anthropic подобно развитие може да доведе до сериозен напредък в медицината, технологиите и световната икономика, но същевременно крие риск от загуба на човешки контрол върху ключови системи.

Въпросът за регулацията на изкуствения интелект остава един от най-спорните в глобалния технологичен сектор. Докато част от компаниите настояват за ускорено развитие, други предупреждават, че липсата на международни правила може да доведе до сериозни последици за обществото и сигурността.

Nikolay Petkov

„Internet trailblazer. Travelaholic. Страстен евангелист в социалните медии. Защитник на телевизията.“