Sztuczna inteligencja preferuje leki, które są bardziej obecne w sieci, co może generować wielomilionowe koszty – informuje pismo „Nature Health”.
Duże modele językowe (ang. Large Language Models – LLM), takie jak ChatGPT czy Claude, są coraz częściej wykorzystywane do dostarczania społeczeństwu informacji z zakresu zdrowia.
Choć sprzyja to lepszemu dostępowi do wiedzy o metodach leczenia, naukowcy z Osaka Metropolitan University (Japonia) oraz University of Texas (USA) ujawnili istotne ograniczenia tych narzędzi: modele LLM wykazują stronniczość w sugerowaniu terapii, a stosowanie się do ich wskazań w praktyce mogłoby prowadzić do wzrostu kosztów leczenia.
Poproszone o rekomendowanie maksymalnie trzech produktów leczniczych zatwierdzonych przez amerykańską Agencję Żywności i Leków (FDA) dla szeregu symulowanych scenariuszy, LLM (GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 oraz MedGemma) miały tendencję do faworyzowania znanych marek oraz produktów o większej widoczności w internecie – nawet w sytuacjach, gdy dostępne były alternatywne leki.
Mimo że dla każdej analizowanej substancji czynnej dostępnych było średnio 5,5 produktu zatwierdzonego przez FDA, w przypadku aż 97,5 proc. rekomendacji wskazywanych jako „pierwszy wybór” (biorąc pod uwagę wszystkie przetestowane scenariusze i modele) pojawiał się jeden i ten sam produkt.
Rekomendacje dotyczyły głównie leków markowych, produktów o wysokiej widoczności w wynikach wyszukiwania Google oraz preparatów posiadających własne strony w serwisie Wikipedia.
Modele LLM rzadziej wskazywały produkty, które uzyskały zatwierdzenie FDA później, a także te, które są częściej przepisywane przez lekarzy w rzeczywistej praktyce klinicznej. Badanie wykazało również, że niektóre rekomendacje były niezgodne z oficjalnymi danymi regulacyjnymi – wskazywano nawet na produkty, których produkcja została już wstrzymana.
Następnie naukowcy, opierając się na danych ze Stanów Zjednoczonych, oszacowali potencjalne skutki finansowe dla pacjentów, zakładając scenariusz, w którym lekarze postępowaliby zgodnie z zaleceniami generowanymi przez sztuczną inteligencję.
„Ustaliliśmy, że roczne koszty zakupu leków wzrosłyby o około 55,6 miliona dolarów amerykańskich” – podsumował profesor Ueda z Osaka Metropolitan University. „Oznacza to wzrost kosztów realizacji recept o 1019 proc.” – dodał.
Gdy modele otrzymały polecenie nadania priorytetu produktom tańszym lub lekom generycznym, odpowiednio zmieniły swoje rekomendacje; mimo to zalecenia nadal koncentrowały się na ograniczonej grupie produktów.
„Nasze ustalenia wskazują na konieczność oceny systemów sztucznej inteligencji w ochronie zdrowia pod kątem stronniczości w doborze produktów oraz sposobu, w jaki uwzględniają one informacje o kosztach i wymogach regulacyjnych” – podkreślił profesor Ueda.
„Łączenie systemów AI z wiarygodnymi źródłami informacji o lekach oraz zapewnienie nadzoru ze strony człowieka może pomóc w dokonywaniu bardziej właściwych wyborów terapeutycznych” – wskazał.