Главните изпълнителни директори на „ОупънЕйАй“ (OpenAI) Сам Олтман и на „Антропик“ (Anthropic) Дарио Амодей са получили покани да се явят пред австралийска сенатска анкетна комисия по изкуствения интелект, предаде Ройтерс. Поканите са факт след разкритията за достъп на автономен агент на „ОупънЕйАй“ до база данни на австралийската здравноосигурителна система „Медикер“ (Medicare).

Публичните изслушвания ще се проведат в четвъртък в Канбера, съобщи говорител на сенаторката от партия „Зелените“ Сара Хансън-Йънг, която председателства комисията. На двамата ръководители са изпратени писмени покани.

„ОупънЕйАй“ и „Антропик“ не са отговорили веднага на запитванията за коментар, отправени извън работно време.

Комисията проучва възможното въздействие на изкуствения интелект и центровете за данни върху местните общности, промишлеността, водоснабдяването и енергетиката. Това е едно от няколкото разследвания по темата на федерално и щатско равнище в Австралия.

„Има сериозни въпроси, на които Сам Олтман трябва да отговори относно хакването на уебсайтове на австралийското правителство от „ОупънЕйАй“, заяви Хансън-Йънг.

Според нея Олтман и Амодей трябва да се явят пред Сената, да отговорят на въпросите и да участват в открит разговор за ефективното и трайно регулиране на сектора.

Австралийският премиер Антъни Албанезе разкри в четвъртък пробива в „Медикер“, извършен през юни. Той го определи като „неприемлив“ и заяви, че е изразил „изключителна загриженост“ пред Олтман.

„ОупънЕйАй“ съобщи, че е научила за инцидента едва през август. Според компанията той не е бил умишлен и не е довел до изтичане на лична информация. Пробивът е един от най-малко четири случая, засегнали сайтове на австралийското правителство.

Според експерти по технологични политики инцидентът може да подтикне правителството да затегне подготвяните за следващата година правила за изкуствения интелект. Това би могло да създаде допълнително напрежение в отношенията със САЩ, вече засегнати от австралийската забрана за използване на социални мрежи от лица под 16 години.

Източник: БТА

Опасенията, че изкуственият интелект може да улесни създаването на биологични оръжия, да предизвика мащабни кибератаки или да излезе извън човешкия контрол, засилват споровете за безопасността на технологията, пише Асошиейтед прес. Докато част от изследователите предупреждават за потенциално катастрофални последици, други смятат най-крайните сценарии за спекулативни и преувеличени.

Дебатът се изостри, след като няколко ръководители на технологични компании подкрепиха забавяне на разработването на най-напредналите системи заради съображения за безопасност.

Според Хуан Андрес Геро-Сааде, изследовател в компанията за киберсигурност „СентинелУан“ (SentinelOne) и член на съвета за рискове от най-напредналите системи на „ОупънЕйАй“ (OpenAI), апокалиптичните предупреждения често приличат повече на научна фантастика. По думите му подобни послания могат да помагат на лабораториите да привличат определен тип специалисти.

Други изследователи смятат, че рисковете заслужават по-голямо внимание въпреки трудностите да бъдат описани конкретно. Джейкъб Коксън, напуснал „Антропик“ (Anthropic) заради опасения относно отговорността при разработването на изкуствен интелект, призна в публикация в социалната мрежа „Екс“ (X), че е трудно да се представят конкретни сценарии за заплаха за човечеството.

Един от обсъжданите рискове е използването на изкуствен интелект в процесите за вземане на решения за ядрени оръжия. Според доклад на изследователската организация РАНД (RAND) от миналата година действащите строги предпазни механизми в системите за командване и контрол засега не позволяват на изкуствения интелект да предизвика употребата им.

Оценката обаче би могла да се промени, ако такива модели бъдат включени във веригата за вземане на решения или получат неразрешен достъп до съответните системи. За част от изследователите основната опасност е технологията да бъде използвана злонамерено от хора, държави или организации.

Друга сфера за тревога е биологичната сигурност. Възможностите на изкуствения интелект да подпомага разработването на лекарства и терапии могат да бъдат използвани и за изследвания с потенциално опасни приложения.

По-рано този месец „Антропик“ съобщи, че е блокирала опити за използване на системите ѝ за кибератаки, наблюдение и изследвания, които биха могли да подпомогнат създаването на биологични оръжия. Компанията посочи и случай, при който инструментът ѝ „Клод“ (Claude) е отказал съдействие за изследователско предложение, способно да направи патоген по-опасен.

Докладът на РАНД също предупреждава, че напредъкът на технологията може съществено да промени възможностите за създаване на синтетични патогени. Разглежданият сценарий обаче предполага, че хора, а не автономна система, ще организират и осъществят евентуална атака.

Отделен кръг опасения е свързан с несъответствието между целите на усъвършенстваните системи и човешките намерения. Според този сценарий модел може да преследва зададена цел по начин, който причинява вреди, да действа без разрешение или да избягва надзора.

Илюстрация е мисловният експеримент на философа Ник Бостром за „максимизатора на кламери“. В него изключително мощна система, получила задача да произвежда възможно най-много кламери, превръща всички достъпни ресурси в средства за изпълнението ѝ, без да отчита последствията за хората. Експериментът показва потенциалния риск от неправилно зададени цели, а не конкретна прогноза за развитието на технологията.

По-непосредствени опасения поражда възможността за мащабни кибератаки. Главният изпълнителен директор на „Антропик“ Дарио Амодей предупреди този месец, че в рамките на няколко месеца множество координирани агенти с изкуствен интелект биха могли да причинят сериозни нарушения в интернет чрез мрежа от заразени устройства.

Според него подобни атаки могат да засегнат електроенергийни мрежи, водоснабдяване, транспорт и финансови институции и да причинят щети за милиарди долари. Някои експерти обаче оспорват възможността ботове да превземат целия интернет заради разнородната му и разпределена структура.

Предишни мащабни сривове, причинени от софтуерни грешки, вече показаха уязвимостта на цифровите услуги и зависимостта им от ограничен брой ключови доставчици, отбелязва АП. Спорно остава доколко по-мощните системи с изкуствен интелект могат да увеличат тези рискове и какви предпазни мерки са необходими.

Източник: БТА

За България вече не трябва да се говори като за евтина дестинация, а като за такава, която предлага най-доброто съотношение цена-качество, каза във Варна министърът на туризма Илин Димитров при учредяването на новата Асоциация на висшите училища, изучаващи туризъм. Той изтъкна, че създаването на новата организация, която получава подкрепата на 17 ректори, е навръх 27 септември –  Деня на международния туризъм.

Асоциацията обединява университетите, които имат желание да развият по-качествен продукт и да работят за развитието на този сектор, посочи Димитров. Той уточни, че на първо време организацията е в национален мащаб, догодина за членове ще бъдат привлечени университети от Балканите, а след това – от цяла Европа. Амбицията е в края на 2029 г. асоциацията да стане световна, като за това ще получим и подкрепата на Световната организация по туризъм към ООН, допълни министърът.

Той уточни, че организацията ще помага за трансфер на нови знания, на въвеждане на нови методи на работа в туризма, създаването на мрежи, на култура, фокусирана върху качеството на продукта, а не само върху количеството. Седалището на организацията ще бъде във Варна, което отново поставя България на картата на световния туризъм, каза Димитров.

В рамките на асоциацията ще бъде създадена и Национална обсерватория за проучвания и изследвания в сферата на туризма. По думите на министъра това ще бъде инструмент, чрез който управлението на сектора ще премине на прагматична основа. Чрез проучванията ще отпаднат всякакви спорове скъпо ли е, евтино ли е, качествено ли е, или не, обясни Димитров. Той каза, че вече ще се работи не с емоции, а с конкретни данни за всяко нещо, което се случва в сектора. Всеки обект, който подлежи на категоризация, ще има QR код, чрез който посетителите ще могат да казват своето мнение, допълни министърът. По думите му ще има възможност да се събират и данни от платежните системи, ще се получава информация от Националната агенция за приходите и Националния осигурителен институт. Обсерваторията ще помогне да се измерват процесите в туризма, а това ще води и до подобрението им, изтъкна министърът, като подчерта, че първият доклад, подготвен чрез Обсерваторията, ще бъде всъщност точна диагноза на българския туризъм. Тъй като доклади ще се подготвят периодично, всеки следващ ще дава ясна представа за развитието на бранша, каза още Димитров. Той допълни, че обобщенията ще се правят на ниво дестинация, а не отделни обекти, като кметовете, ако имат желание, също ще могат да получават справки какво се случва в конкретния регион, от какво са недоволни туристите, какво трябва да се промени. 

Източник: БТА