ChatGPT a porady zdrowotne: jak OpenAI kontroluje bezpieczeństwo

Sztuczna inteligencja stała się nieoficjalnym doradcą zdrowotnym dla setek milionów ludzi na świecie. Każdego tygodnia aż 300 milionów użytkowników ChatGPT zadaje modelowi pytania związane ze zdrowiem — od objawów chorób po interpretację wyników badań. Rosnąca popularność AI w medycynie skłoniła OpenAI do podjęcia ambitnego kroku: zatrudnienia zespołu specjalistów medycznych, którzy na bieżąco oceniają poprawność i bezpieczeństwo tych odpowiedzi.

Globalna sieć lekarzy oceniających AI

Od 2024 roku zespołem zajmującym się weryfikacją porad zdrowotnych kieruje Rebecca Soskin Hicks. Pod jej nadzorem pracuje setki lekarzy, którzy przeanalizowali już ponad 700 tysięcy odpowiedzi udzielonych przez ChatGPT użytkownikom pytającym o zdrowie. To nie jest mała operacja — specjaliści mówią w 49 różnych językach i pracują z miejsc takich jak Kenia, Nepal czy Brazylia, co pozwala OpenAI na ocenę odpowiedzi w kontekście lokalnych realiów medycznych i kulturowych.

Zespół medyczny OpenAI nie ocenia AI w izolacji. W strukturze firmy za rozwój funkcji zdrowotnych odpowiada Ashley Alexander, pełniący funkcję dyrektora ds. produktów zdrowotnych. Badania naukowe w tym obszarze prowadzi Karan Singhal, który kieruje działami badawczymi OpenAI poświęconymi medycynie. Taka struktura organizacyjna wskazuje, że OpenAI traktuje bezpieczeństwo zdrowotne jako priorytet strategiczny, a nie marginalny dodatek do głównego produktu.

Jak działa kontrola jakości odpowiedzi AI?

Proces weryfikacji polega na tym, że lekarze przychodzą do konkretnych odpowiedzi udzielonych przez ChatGPT i oceniają, gdzie model radzi sobie dobrze, a gdzie mogłyby być potrzebne ulepszenia. Nie chodzi tutaj o znalezienie jednego momentu, w którym system będzie „wystarczająco dobry” — jak wyjaśnia Soskin Hicks, „nie ma mety, po której można uznać, że coś jest wystarczająco dobre. Będziemy nadal dążyć do poprawy bezterminowo.” Ta filozofia oznacza, że OpenAI zobowiązała się do ciągłego monitorowania i doskonalenia swoich narzędzi medycznych.

Warto zauważyć, że OpenAI formalnie zabrania ChatGPT stawiania diagnoz lub przepisywania leków. Warunki użytkownika są w tej sprawie jednoznaczne. Jednak w praktyce model często udziela porad, które mogą być interpretowane jako quasi-medyczne — na przykład sugeruje możliwe przyczyny objawów lub omawia opcje leczenia. Ta szara strefa między „pomocą informacyjną” a „poradą medyczną” jest dokładnie tym, co lekarze zatrudnieni przez OpenAI muszą codziennie oceniać.

Integracja z ekosystemem Apple i nowe modele AI

OpenAI nie ogranicza się do samego ChatGPT. Firma połączyła swoją platformę z Apple Health, co oznacza, że użytkownicy urządzeń Apple mogą uzyskiwać porady zdrowotne bezpośrednio z poziomu ekosystemu Apple’a. To rozszerzenie dostępu do AI w medycynie na nowe urządzenia i interfejsy.

Równocześnie OpenAI testuje nowe modele — w tym GPT-6 Astra — w scenariuszach porównawczych dotyczących zdrowia. Te testy mają na celu sprawdzenie, czy kolejne generacje modeli radzą sobie lepiej w udzielaniu bezpiecznych i dokładnych porad zdrowotnych.

Co to oznacza dla użytkowników i branży medycznej?

Inicjatywa OpenAI pokazuje, że firmy zajmujące się sztuczną inteligencją zaczynają poważnie traktować odpowiedzialność za zdrowotne porady udzielane przez ich modele. Jednak fakt, że konieczne jest zatrudnienie setek lekarzy do sprawdzania tysięcy odpowiedzi, wskazuje też na fundamentalne wyzwanie: AI nie potrafi samodzielnie gwarantować bezpieczeństwa medycznego.

Dla użytkowników oznacza to, że choć ChatGPT może być przydatnym źródłem informacji zdrowotnych, nigdy nie powinien zastępować konsultacji z rzeczywistym lekarzem. Niedawny pozew złożony przez pastora, który twierdził, że GPT-4o udzielił mu błędnej diagnozy, pokazuje realne konsekwencje polegania na AI w kwestiach zdrowotnych.

Dla branży medycznej ta sieć weryfikacji lekarzy stanowi precedens — pokazuje, że duże korporacje technologiczne mogą inwestować w ludzką ekspertyzę medyczną, aby zrównoważyć możliwości algorytmów. Jednocześnie budzi pytania o skalę takiego podejścia: czy sieć setek lekarzy jest wystarczająca do weryfikacji porad dla 300 milionów użytkowników tygodniowo?