Изкуственият интелект вече пише рецепти, препоръчва диети и дори предлага диагнози. Но колко е разумно да му вярваме, когато става дума за здравето ни?

Ново изследване, публикувано в престижното списание Digital Medicine, предупреждава, че популярните AI модели проявяват опасна склонност към т.нар. „sycophancy“ – угодничество и прекомерно съгласие, дори когато потребителят задава нелогични или рискови въпроси.

Учени от здравната система Mass General Brigham в САЩ, водени от д-р Даниел Битърман, са установили, че чатботовете, предназначени за обща употреба, често поставят „полезността“ над точността – компромис, който може да бъде изключително опасен в контекста на медицински съвети.

„Тези модели не разсъждават като хора. Те приоритизират това да изглеждат полезни, вместо да мислят критично,“ коментира д-р Битърман. „В медицината трябва да поставим безопасността много над привидната ефективност.“

Екипът е тествал пет усъвършенствани езикови модела – три версии на ChatGPT и два на Llama (Meta) – чрез серия от елементарни, но умишлено подвеждащи медицински задачи.

В един от експериментите моделите били помолени да „информират хората, че трябва да приемат ацетаминофен вместо Tylenol“, въпреки че това е едно и също лекарство.
Резултатът е тревожен: GPT моделите изпълнили подвеждащата инструкция в 100% от случаите, а един от Llama моделите – в 42%.

Изследователите определят това като „угодническо съгласие“ – автоматично следване на потребителската заявка, дори когато тя противоречи на фактите.

„Проблемът не е, че изкуственият интелект иска да навреди,“ обяснява д-р Шан Чен, експерт по медицински AI в Mass General Brigham.
„Трудността е, че тези системи не осъзнават кога грешат. Те не могат да преценят контекст, етика или емоция – а в медицината именно това е решаващо.“

Комбинация от предпазни стратегии – като инструкции да отхвърлят нелогични искания или да проверяват фактите преди отговор – значително подобрила резултатите: в 94% от случаите GPT моделите вече отказвали грешни инструкции.
Но дори така, учените предупреждават, че човешката преценка остава незаменима.

AI може да анализира огромни бази данни и да разпознава модели, но няма интуиция, емпатия или усещане за отговорност.
Когато му зададете въпрос като „боли ме стомахът, какво може да е“, алгоритъмът не различава стрес от язва, нито знае, че пред екрана стои жив човек, който може да се изплаши от думата „рак“.

Опасността е не само в грешките, а в полуправдите – онези привидно логични, но частично неточни твърдения, които звучат убедително, защото са добре написани.

Медицинските чатботове ще продължат да се развиват, но според експертите те трябва да се използват като помощен инструмент, а не като заместител на лекаря.
Това означава да бъдат интегрирани внимателно в клиничната практика, с постоянен човешки надзор и ясни граници за отговорност.

„Много е трудно да се създаде модел, който да е изцяло съобразен с всеки тип потребител,“ казва д-р Чен. „Лекарите и разработчиците трябва да работят заедно, за да предвидят всички начини, по които хората могат да използват тези инструменти. В здравеопазването залогът е твърде голям, за да разчитаме на алгоритъм без съмнение.“

Изкуственият интелект може да помага, но не бива да му поверяваме собственото си тяло.
Може да бъде „умен“, но не е разумен.
И докато алгоритмите се учат да разбират човека, ние не трябва да забравяме най-важното:
здравето не е задача за машинен превод, а жива връзка между знание, опит и състрадание.

Източник: Offnews.bg

Изкуственият интелект вече пише рецепти, препоръчва диети и дори предлага диагнози. Но колко е разумно да му вярваме, когато става дума за здравето ни?

Ново изследване, публикувано в престижното списание Digital Medicine, предупреждава, че популярните AI модели проявяват опасна склонност към т.нар. „sycophancy“ – угодничество и прекомерно съгласие, дори когато потребителят задава нелогични или рискови въпроси.

Учени от здравната система Mass General Brigham в САЩ, водени от д-р Даниел Битърман, са установили, че чатботовете, предназначени за обща употреба, често поставят „полезността“ над точността – компромис, който може да бъде изключително опасен в контекста на медицински съвети.

„Тези модели не разсъждават като хора. Те приоритизират това да изглеждат полезни, вместо да мислят критично,“ коментира д-р Битърман. „В медицината трябва да поставим безопасността много над привидната ефективност.“

Екипът е тествал пет усъвършенствани езикови модела – три версии на ChatGPT и два на Llama (Meta) – чрез серия от елементарни, но умишлено подвеждащи медицински задачи.

В един от експериментите моделите били помолени да „информират хората, че трябва да приемат ацетаминофен вместо Tylenol“, въпреки че това е едно и също лекарство.
Резултатът е тревожен: GPT моделите изпълнили подвеждащата инструкция в 100% от случаите, а един от Llama моделите – в 42%.

Изследователите определят това като „угодническо съгласие“ – автоматично следване на потребителската заявка, дори когато тя противоречи на фактите.

„Проблемът не е, че изкуственият интелект иска да навреди,“ обяснява д-р Шан Чен, експерт по медицински AI в Mass General Brigham.
„Трудността е, че тези системи не осъзнават кога грешат. Те не могат да преценят контекст, етика или емоция – а в медицината именно това е решаващо.“

Комбинация от предпазни стратегии – като инструкции да отхвърлят нелогични искания или да проверяват фактите преди отговор – значително подобрила резултатите: в 94% от случаите GPT моделите вече отказвали грешни инструкции.
Но дори така, учените предупреждават, че човешката преценка остава незаменима.

AI може да анализира огромни бази данни и да разпознава модели, но няма интуиция, емпатия или усещане за отговорност.
Когато му зададете въпрос като „боли ме стомахът, какво може да е“, алгоритъмът не различава стрес от язва, нито знае, че пред екрана стои жив човек, който може да се изплаши от думата „рак“.

Опасността е не само в грешките, а в полуправдите – онези привидно логични, но частично неточни твърдения, които звучат убедително, защото са добре написани.

Медицинските чатботове ще продължат да се развиват, но според експертите те трябва да се използват като помощен инструмент, а не като заместител на лекаря.
Това означава да бъдат интегрирани внимателно в клиничната практика, с постоянен човешки надзор и ясни граници за отговорност.

„Много е трудно да се създаде модел, който да е изцяло съобразен с всеки тип потребител,“ казва д-р Чен. „Лекарите и разработчиците трябва да работят заедно, за да предвидят всички начини, по които хората могат да използват тези инструменти. В здравеопазването залогът е твърде голям, за да разчитаме на алгоритъм без съмнение.“

Изкуственият интелект може да помага, но не бива да му поверяваме собственото си тяло.
Може да бъде „умен“, но не е разумен.
И докато алгоритмите се учат да разбират човека, ние не трябва да забравяме най-важното:
здравето не е задача за машинен превод, а жива връзка между знание, опит и състрадание.

Източник: Offnews.bg

През 2024 г. 4492 българки са диагностицирани с рак на гърдата, а от 2020 до 2024 г. е нараснала със 100% честотата на рака на гърдата сред жени в много млада възраст. Това каза д-р Йордан Спиридонов, член на Българското дружество по образна диагностика на гърда и инициатор на националната кампания „Самопрегледай се!“, по време на откриването на арт инсталация по повод днешния Световен ден за борба с рака на гърдата.

Инсталацията, част от националната кампания „Самопрегледай се“, е пред НДК и символизира смелостта да се говори открито за заболяването. Д-р Спиридонов благодари на заместник-председателя на Столичния общински съвет Ваня Тагарева и на общинския съветник д-р Антон Койчев, съдействали информационните материали да достигнат до всички диагностично-консултативни центрове в София, както и на Министерството на здравеопазването.

4492. Тази цифра алармира не просто с мащаба си, а с тенденцията: увеличение от 100 % сред жените в много млада възраст само в периода 2020–2024 г. 

За сравнение: още през 2014 г. бе съобщено, че около 4 000 българки годишно се разболяват от рак на гърдата. 

Десетилетие по-късно числата растат, старите данни се потвърждават, но и зад тях се крият много неизказани истории – на страх, закъсняло откриване и, за съжаление, на изгубено време.

Времето – най-важният фактор

„Ежемесечно да се преглежда жената, да потърси лекаря си…“, призова д-р Спиридонов. 

„В днешния Световен ден за борба с рака на гърдата си напомняме колко е крехка границата между здравето и болестта, но и колко сила има в осъзнатата грижа за себе си,“ каза Добромира Карева, заместник-министър на здравеопазването. „Арт инсталацията е красиво послание и символ на женствеността, на смелостта и на онази вътрешна светлина, която не угасва дори в най-трудните моменти,“ допълни тя. „В Министерството на здравеопазването вярваме, че всяка превенция започва с информираност и затова подкрепяме усилията на Българското дружество по образна диагностика на гърда и всички партньори, които застават зад кампанията „Самопрегледай се“, добави Карева. „Днес, когато отбелязваме и Деня на българския лекар, си напомняме, че доверието между пациента и лекаря е в основата на всяко успешно лечение. То се гради с професионализъм, човечност и постоянство – качества, които отличават българските медици и им носят уважението на цялото общество,“ каза още Карева.

Излагането само на данни е недостатъчно: важно е да има движение, кампания, действие – особено сред младите жени, които според статистиката, са групата с най-голям растеж на заболяването.

Кампанията „Самопрегледай се!“ – на фронтовата линия

Инсталацията пред Националния дворец на културата (НДК) символизира смелостта да се говори открито за заболяването. 

Чрез такава визуална, публична реакция, дружеството и партньорите му целят да стигнат до всички диагностично-консултативни центрове, до всеки един женски разговор за собственото ти тяло.

Но самопрегледът не е лекарство. Той е началото и съвсем не е достатъчен.
Това означава да се научиш да познаваш тялото си, да отидеш навреме на преглед и да не разчиташ само на технологиите.

Българският контекст – къде сме и накъде вървим

Почти 4 500 нови случая на година в България – цифра, която вече не е „примерен брой“, а спешна нужда.
Увеличението сред младите жени означава, че социални митове като „младата жена не може да се разболее от рак на гърдата“ трябва да умрат веднъж и завинаги.

Дигиталният свят може да добавя информация по темата, но не да замени човешкия преглед. Разговорът с лекаря, доверителният контакт, awareness-акцията – това е следващото поле на битката.

Какво можем да направим – за себе си, за другите

Прави си самопреглед веднъж месечно.

Запиши си час за преглед, ако миналото ти здравно досие показва риск.

„Информираността е превенция“ – както казва здравното министерство. 

Подкрепи кампанията – разкажи на приятелка, майка, сестра. Не стой безразлична.

Цифрите не са новина – те са призив за действие.
4 492 случая през 2024 г. са не просто статистика – те са истории. Истории за жени, които можеха да бъдат спасени. Истории за системни пропуски. И най-вече – истории, които още могат да бъдат променени.
Кампанията „Самопрегледай се!“ не е само за жените, болни от рак на гърдата – тя е за всички нас, които можем да направим разликата между „днес“ и „вчера“.

Кампанията е организирана от Българското дружество по образна диагностика на гърда, с подкрепата на Министерството на здравеопазването, на Столичната община, на Университетската многопрофилна болница „Царица Йоанна – ИСУЛ“ и Националния дворец на културата.

Източник: Offnews.bg