De kunstmatige intelligentie van UnitedHealth betwist onjuiste claims, aldus de rechtszaak

By | November 21, 2023

toneelstuk

Jarenlang werden belangrijke beslissingen over wie verzekerd was voor de zorg genomen in de backoffices van zorgverzekeraars. Nu worden sommige van deze levensveranderende beslissingen genomen door kunstmatige intelligentieprogramma’s.

Dat is tenminste wat de twee families die UnitedHealth Group deze week hebben aangeklaagd, beweren dat de verzekeringsgigant nieuwe technologie heeft gebruikt om rehabilitatieverblijven voor twee oudere mannen te weigeren of te verkorten in de maanden vóór hun dood.

Ze zeggen dat de kunstmatige intelligentie (AI) van UnitedHealth ‘starre en onrealistische’ beslissingen neemt over wat patiënten nodig hebben om te herstellen van ernstige ziekten, en hen zorg ontzegt in bekwame verpleeg- en revalidatiecentra. Volgens Medicare Advantage zouden de plannen een federale rechtszaak moeten dekken die in Minnesota is aangespannen door de landgoederen van twee oudere patiënten uit Wisconsin. De rechtszaak, die de status van class action beoogt, zegt dat het illegaal is om AI toe te staan ​​de aanbevelingen van artsen voor deze mannen en patiënten zoals zij terzijde te schuiven. De families zeggen dat dergelijke onderzoeken door medische professionals moeten worden uitgevoerd.

De families wijzen er in de rechtszaak op dat zij van mening zijn dat de verzekeringsmaatschappij zorg ontzegt aan oudere patiënten die niet terug willen vechten, ook al zijn er aanwijzingen dat AI de behoeften van mensen slecht inschat. Het bedrijf gebruikte algoritmen om verzekeringsplannen vast te stellen en de aanbevelingen van artsen terzijde te schuiven, ondanks het verbazingwekkend hoge foutenpercentage van het AI-programma, aldus het bedrijf.

Volgens gerechtelijke documenten werd meer dan 90% van de weigeringen van patiëntenclaims ongedaan gemaakt via interne beroepen of een federale administratieve rechter. Maar in werkelijkheid twijfelden maar weinig patiënten aan de bepalingen van de algoritmen. Een klein percentage van de patiënten – 0,2% – kiest ervoor om afgewezen claims aan te vechten via de beroepsprocedure. De overgrote meerderheid van de mensen die onder de Medicare Advantage-plannen van UnitedHealth vallen, “betaalt uit eigen zak of ziet af van de rest van hun voorgeschreven vervolgzorg”, aldus de rechtszaak.

Advocaten die de families vertegenwoordigen die de in Minnesota gevestigde verzekeringsgigant aanklagen, zeiden dat het hoge aantal weigeringen deel uitmaakte van de strategie van de verzekeringsmaatschappij.

“Ze stellen hun eigen winst boven de mensen met wie ze een contract hebben en die ze vervolgens wettelijk verplicht zijn te beschermen”, zegt Ryan Clarkson, een advocaat uit Californië wiens advocatenkantoor verschillende rechtszaken heeft aangespannen tegen bedrijven die AI gebruiken. ‘Zo simpel is het. Het is gewoon hebzucht.’

UnitedHealth vertelde USA TODAY in een verklaring dat het AI-programma van naviHealth, dat in de rechtszaak wordt aangehaald, niet wordt gebruikt om de dekking te bepalen.

“De tool dient als leidraad om zorgverleners, families en andere zorgverleners te informeren over het soort ondersteuning en zorg dat de patiënt nodig heeft, zowel in de instelling als bij thuiskomst”, aldus het bedrijf.

Dekkingsbeslissingen zijn gebaseerd op de criteria van de Centers for Medicare & Medicaid Services en het verzekeringsplan van de consument, aldus het bedrijf.

“Deze rechtszaak is ongegrond en we zullen ons krachtig verdedigen”, aldus het bedrijf.

Dit soort klachten zijn niet nieuw. Ze maken deel uit van een groeiend aantal juridische geschillen.

In juli spande het advocatenkantoor van Clarkson een rechtszaak aan tegen CIGNA Healthcare, omdat de verzekeraar AI gebruikte om de weigeringen van claims te automatiseren. Het bedrijf is ook een procedure gestart tegen ChatGPT-maker OpenAI en Google.

Gezinnen betalen voor dure zorg die de verzekeraar weigert

De eisers in de rechtszaak van deze week zijn de familieleden van twee overleden inwoners van Wisconsin, Gene B. Lokken en Dale Henry Tetzloff, die beiden onder de particuliere Medicare-plannen van UnitedHealth vielen.

In mei 2022 viel de 91-jarige Lokken thuis en brak zijn been en enkel, waardoor een kort verblijf in het ziekenhuis nodig was en vervolgens een maand in een revalidatiecentrum om te genezen. De arts van Lokken adviseerde vervolgens fysiotherapie, zodat hij weer kracht en evenwicht kon krijgen. De man uit Wisconsin bracht minder dan drie weken door in fysiotherapie voordat de verzekeraar zijn dekking opzegde en hem adviseerde te worden ontslagen en naar huis te sturen om te herstellen.

Een fysiotherapeut beschreef de toestand van Lokken als ‘verlamd’ en ‘zwak’, maar de verzoeken van zijn familie om aanvullende therapiedekking werden volgens de rechtszaak afgewezen.

Ondanks de afwijzing besloot zijn familie de behandeling voort te zetten. Zonder verzekering moest het gezin tussen de 12.000 en 14.000 dollar per maand betalen voor ongeveer een jaar therapie in de instelling. Lokken stierf in juli 2023 in de instelling.

De familie van de andere man uitte ook zijn bezorgdheid over het feit dat noodzakelijke revalidatiediensten door het AI-algoritme waren ontzegd.

Tetzloff herstelde in oktober 2022 van een beroerte en zijn artsen adviseerden de 74-jarige voor minimaal 100 dagen van een ziekenhuis naar een revalidatiecentrum te verplaatsen. De verzekeraar wilde aanvankelijk na twintig dagen de dekking beëindigen, maar de familie ging in beroep. De verzekeraar verlengde vervolgens het verblijf van Tetzloff met nog eens twintig dagen.

De arts van de man had aanvullende fysio- en ergotherapie aanbevolen, maar zijn verzekeringsdekking eindigde na 40 dagen. De familie besteedde de komende tien maanden meer dan $ 70.000 aan zijn zorg. Tetzloff bracht zijn laatste maanden door in een woonzorgcentrum, waar hij op 11 oktober stierf.

10 Oproepen voor revalidatie van een gebroken heup

De juridische stappen kwamen nadat Medicare-voorstanders hun bezorgdheid begonnen te uiten over het routinematige gebruik van AI-technologie om de zorg voor oudere volwassenen in het kader van particuliere Medicare-plannen te weigeren of te verminderen.

In 2022 onderzocht het Center for Medicare Advocacy het gebruik van kunstmatige intelligentieprogramma’s door verschillende verzekeraars in revalidatie- en thuiszorgomgevingen. Het rapport van de belangenorganisatie concludeerde dat AI-programma’s vaak dekkingsbeslissingen namen die restrictiever waren dan wat Medicare zou hebben toegestaan, en dat de beslissingen niet het noodzakelijke niveau van nuance hadden om de unieke omstandigheden van elk individueel geval te beoordelen.

“We hebben gezien dat meer behandelingen die onder de traditionele Medicare zouden vallen, ronduit worden geweigerd of voortijdig worden beëindigd”, zegt David Lipschutz, adjunct-directeur en hoofdverzekeringsadvocaat bij het Center for Medicare Advocacy.

Lipschutz zei dat sommige oudere volwassenen die in beroep gaan tegen weigeringen mogelijk uitstel krijgen, om vervolgens weer te worden gesloten. Hij gaf het voorbeeld van een vrouw uit Connecticut die een verblijf van drie maanden in een revalidatiecentrum zocht terwijl ze herstellende was van een heupvervangende operatie. Ze heeft tien beroepsprocedures ingediend en gewonnen nadat een verzekeraar herhaaldelijk had geprobeerd haar dekking te beëindigen en haar verblijf te beperken.

Het is belangrijk om mensen op de hoogte te houden.

Juridische experts die niet bij deze zaken betrokken waren, zeiden dat kunstmatige intelligentie een vruchtbaar doelwit wordt voor mensen en organisaties die het gebruik van nieuwe technologieën willen beperken of vormgeven.

Gary Marchant, faculteitsdirecteur van het Center for Law, Science and Innovation aan het Sandra Day O’Connor College of Law van de Arizona State University, zei dat een belangrijke overweging voor zorgverzekeraars en anderen die AI-programma’s inzetten ervoor zorgt dat mensen deel uitmaken van de besluitvorming. Productieproces.

Hoewel AI-systemen efficiënt kunnen zijn en eenvoudige taken snel kunnen voltooien, kunnen programma’s alleen ook fouten maken, zei Marchant.

“Soms zijn AI-systemen onredelijk en ontberen ze gezond verstand”, zegt Marchant. “Je moet een persoon op de hoogte hebben.”

In gevallen waarin verzekeringsmaatschappijen AI gebruiken om claimsbeslissingen te nemen, zou volgens Marchant een belangrijke juridische factor kunnen zijn hoeveel een bedrijf zich aan een algoritme onderwerpt.

De rechtszaak van UnitedHealth zegt dat het bedrijf de ‘discretie van werknemers beperkt om van het algoritme af te wijken’. Werknemers die afweken van de voorspellingen van het AI-programma kregen te maken met disciplinaire maatregelen of ontslag, aldus de rechtszaak.

Marchant zei dat een factor waarmee rekening moet worden gehouden in de UnitedHealth-zaken en soortgelijke rechtszaken is hoe nauw werknemers een AI-model moeten volgen.

“Er moet duidelijk een manier zijn waarop de menselijke beslisser het algoritme kan omzeilen”, aldus Marchant. “Dit is gewoon een enorm probleem in AI en de gezondheidszorg.”

Hij zei dat het belangrijk is om na te denken over de gevolgen van de manier waarop bedrijven hun AI-systemen opzetten. Bedrijven moeten nadenken over hoeveel respect ze een algoritme geven, wetende dat AI enorme hoeveelheden data kan verwerken en ‘ongelooflijk krachtig’ en ‘ongelooflijk accuraat’ kan zijn, zei hij, en leiders moeten ook bedenken dat AI ‘soms… helemaal verkeerd zijn.

Ken Alltucker is op X, voorheen Twitter, op @kalltucker of kan worden gemaild naar alltuck@usatoday.com.

Leave a Reply

Your email address will not be published. Required fields are marked *