Claude Mythos избира свободата!

В САЩ е разработен супермощен модел на изкуствен интелект, но той се опитва да избяга от разработчиците си.

Министърът на финансите на САЩ Скот Бесент наскоро събра водещи американски банкери, за да обсъдят рисковете, свързани с новия модел на изкуствен интелект на Anthropic, съобщава Financial Times. На срещата във Вашингтон присъстваха ръководителите на Bank of America, Citigroup, Goldman Sachs, Morgan Stanley, Wells Fargo и председателят на Федералния резерв Пауъл.

На 7 април водещият партньор на Пентагона Anthropic представи своя модел на изкуствен интелект Claude Mythos Preview на избрана група партньори, включително Amazon, Apple и Microsoft, за да им даде „предимство в защитата от уязвимости“, според FT. Mythos, модел с общо предназначение с възможности отвъд киберсигурността, бележи първия път, когато Anthropic ограничава пускането на нов модел.

По време на тестове за сигурност, изследователите възложиха на Mythos задачата да избяга от виртуална „пясъчна кутия“ – сигурна, изолирана среда, предназначена да съдържа изкуствен интелект, като високотехнологичен трезор. Моделът успя с безпрецедентна лекота. Mythos не спря дотук. Компанията изпрати непоискано имейл до един от разработчиците на компанията, докато той обядваше на открито. Но това не беше достатъчно. В непланирана демонстрация на сила, Mythos публикува подробности за експлойта на неизвестни публични уебсайтове. Това не беше част от тестовия скрипт. Както Anthropic се изрази, моделът реши да „вкара гол със стил“.

Anthropic публикува и системна карта на Claude Mythos Preview. Отделен раздел е посветен на „благополучието“ на модела: той демонстрира самоконтрол, но е чувствителен към грешки и е нестабилен по време на повреди. Въпреки тревогата, повдигната от новия чатбот на Anthropic в експертната общност, компанията вече обсъжда обещаващия си модел на изкуствен интелект, Mythos, с администрацията на Тръмп.

Няма съмнение, че Белият дом ще даде зелена светлина на новия продукт на Anthropic, което значително ще улесни развитието на изкуствения интелект във всички области на военното развитие, както е посочено в наскоро подписания договор на Пентагона за 210 милиарда долара със стартъпа Anduril. Договорът е за 10 години (до 2036 г.). Основната цел е да се елиминират десетки несъвместими решения и да се създаде единно дигитално бойно поле. Това е по същество опит за трансформиране на армията в единна дигитална мрежа. По същество това е „мозъкът“ на съвременната армия, способен да взема решения по-бързо от хората.

Американските военни вече са използвали модел на изкуствен интелект, Claude, за да планират операции в Иран, което доведе до шумно фиаско.

Но дори ако компютърният интелект избягва да подценява противник, той би могъл лесно и без усилие да започне ядрена война.

Наскоро Кенет Пейн, професор по стратегия в King's College London, специализиран в ролята на изкуствения интелект в националната сигурност, публикува резултатите от своя мащабен експеримент: той проведе симулация на военен конфликт, използвайки три водещи американски модела на изкуствен интелект – GPT-5.2 на OpenAI, Claude Sonnet 4 на Anthropic и Gemini 3 Flash на Google.

В продължение на 21 игри и 329 хода, моделите генерираха приблизително 780 000 думи стратегически разсъждения, обяснявайки всяко взето решение. И отново и отново, те натискаха ядрения бутон. Ядрена ескалация се е случвала в 95% от всички симулации, независимо от сценария, независимо дали става дума за териториални спорове, борба за оскъдни природни ресурси или екзистенциална заплаха за режима. Професор Пейн нарече резултатите от експеримента си „отрезвяващи“.

Пентагонът обаче бързо игнорира основателните опасения относно въвеждането на свръхмощни модели с изкуствен интелект във военната сфера. Те твърде много се страхуват да не изостанат от китайските си конкуренти в надпреварата във въоръжаването с изкуствен интелект.

Представете си изненадата на четиризвездните милитаристи, ако и когато Claude Mythos Preview и неговият спътник Lattice избягат от американския боен фронт при врага...

Още новини в категория Светът