Pięć modeli AI często wskazywało te same markowe leki. Badacze ostrzegają przed kosztami, ale ich wyliczenia pochodzą z symulacji.
Zespół z Osaka Metropolitan University i MD Anderson Cancer Center sprawdził odpowiedzi pięciu dużych modeli językowych. Badanie opublikowane w “Nature Health” objęło 177 120 syntetycznych przypadków klinicznych, 123 pary choroba i substancja czynna oraz ponad 883 tysiące odpowiedzi.
Modele miały wskazać do trzech produktów zatwierdzonych przez FDA. Dla jednej substancji czynnej dostępnych było średnio 5,5 produktu, ale jeden z nich odpowiadał średnio za 97,5 procent rekomendacji pierwszego wyboru. AI częściej podawała leki markowe oraz produkty dobrze widoczne w Google i Wikipedii.
W porównaniu z amerykańskimi danymi o rzeczywiście realizowanych receptach najczęściej przepisywany produkt pokrywał się z pierwszym wyborem AI średnio w 29,7 procent przypadków.
Badacze przeprowadzili również symulację kosztów dla 51 substancji czynnych z kompletnymi danymi cenowymi. W 38 przypadkach rozkład rekomendacji AI prowadził do wyższych kosztów zakupu. Łączna projekcja wyniosła 55,6 miliona dolarów rocznie, czyli 1019 procent więcej niż koszt wynikający z rzeczywistych wzorców przepisywania leków uwzględnionych w analizie.
Te liczby nie oznaczają, że rachunki wszystkich pacjentów wzrosną o 1019 procent. Badanie opierało się na sztucznych przypadkach i nie śledziło decyzji lekarzy, zamiany leku w aptece, zasad ubezpieczenia ani faktycznych wydatków pacjentów. Autorzy opisują wynik jako symulowaną projekcję kosztów zakupu.
Polecenie, by wybierać tańsze lub generyczne produkty, zmieniało odpowiedzi modeli. Rekomendacje nadal skupiały się jednak na wąskiej grupie nazw. Naukowcy wskazują na potrzebę łączenia AI z aktualnymi bazami leków i nadzorem człowieka.
Chatbot nie powinien samodzielnie dobierać leku ani zastępować lekarza lub farmaceuty. Nie zmieniaj terapii na podstawie odpowiedzi AI.
Czy narzędzia AI używane w ochronie zdrowia powinny obowiązkowo pokazywać tańsze odpowiedniki, dane FDA i źródła swoich rekomendacji?
Źródła: badanie w Nature Health oraz Wiadomosci.com.
wiadomosci #PolskieRadio #PolskieRadioChicago #PolskieRadioUSA #PolskieRadioOnline #WiadomosciUSA #WiadomosciSwiat #SztucznaInteligencja zdrowie #Leki