Опасенията, че изкуственият интелект може да улесни създаването на биологични оръжия, да предизвика мащабни кибератаки или да излезе извън човешкия контрол, засилват споровете за безопасността на технологията, пише Асошиейтед прес. Докато част от изследователите предупреждават за потенциално катастрофални последици, други смятат най-крайните сценарии за спекулативни и преувеличени.

Дебатът се изостри, след като няколко ръководители на технологични компании подкрепиха забавяне на разработването на най-напредналите системи заради съображения за безопасност.

Според Хуан Андрес Геро-Сааде, изследовател в компанията за киберсигурност „СентинелУан“ (SentinelOne) и член на съвета за рискове от най-напредналите системи на „ОупънЕйАй“ (OpenAI), апокалиптичните предупреждения често приличат повече на научна фантастика. По думите му подобни послания могат да помагат на лабораториите да привличат определен тип специалисти.

Други изследователи смятат, че рисковете заслужават по-голямо внимание въпреки трудностите да бъдат описани конкретно. Джейкъб Коксън, напуснал „Антропик“ (Anthropic) заради опасения относно отговорността при разработването на изкуствен интелект, призна в публикация в социалната мрежа „Екс“ (X), че е трудно да се представят конкретни сценарии за заплаха за човечеството.

Един от обсъжданите рискове е използването на изкуствен интелект в процесите за вземане на решения за ядрени оръжия. Според доклад на изследователската организация РАНД (RAND) от миналата година действащите строги предпазни механизми в системите за командване и контрол засега не позволяват на изкуствения интелект да предизвика употребата им.

Оценката обаче би могла да се промени, ако такива модели бъдат включени във веригата за вземане на решения или получат неразрешен достъп до съответните системи. За част от изследователите основната опасност е технологията да бъде използвана злонамерено от хора, държави или организации.

Друга сфера за тревога е биологичната сигурност. Възможностите на изкуствения интелект да подпомага разработването на лекарства и терапии могат да бъдат използвани и за изследвания с потенциално опасни приложения.

По-рано този месец „Антропик“ съобщи, че е блокирала опити за използване на системите ѝ за кибератаки, наблюдение и изследвания, които биха могли да подпомогнат създаването на биологични оръжия. Компанията посочи и случай, при който инструментът ѝ „Клод“ (Claude) е отказал съдействие за изследователско предложение, способно да направи патоген по-опасен.

Докладът на РАНД също предупреждава, че напредъкът на технологията може съществено да промени възможностите за създаване на синтетични патогени. Разглежданият сценарий обаче предполага, че хора, а не автономна система, ще организират и осъществят евентуална атака.

Отделен кръг опасения е свързан с несъответствието между целите на усъвършенстваните системи и човешките намерения. Според този сценарий модел може да преследва зададена цел по начин, който причинява вреди, да действа без разрешение или да избягва надзора.

Илюстрация е мисловният експеримент на философа Ник Бостром за „максимизатора на кламери“. В него изключително мощна система, получила задача да произвежда възможно най-много кламери, превръща всички достъпни ресурси в средства за изпълнението ѝ, без да отчита последствията за хората. Експериментът показва потенциалния риск от неправилно зададени цели, а не конкретна прогноза за развитието на технологията.

По-непосредствени опасения поражда възможността за мащабни кибератаки. Главният изпълнителен директор на „Антропик“ Дарио Амодей предупреди този месец, че в рамките на няколко месеца множество координирани агенти с изкуствен интелект биха могли да причинят сериозни нарушения в интернет чрез мрежа от заразени устройства.

Според него подобни атаки могат да засегнат електроенергийни мрежи, водоснабдяване, транспорт и финансови институции и да причинят щети за милиарди долари. Някои експерти обаче оспорват възможността ботове да превземат целия интернет заради разнородната му и разпределена структура.

Предишни мащабни сривове, причинени от софтуерни грешки, вече показаха уязвимостта на цифровите услуги и зависимостта им от ограничен брой ключови доставчици, отбелязва АП. Спорно остава доколко по-мощните системи с изкуствен интелект могат да увеличат тези рискове и какви предпазни мерки са необходими.

Източник: БТА