We moeten algoritmen als geneesmiddelen op recept behandelen

We moeten algoritmen als geneesmiddelen op recept behandelen

februari 14, 2019 0 Door admin

CBD Olie kan helpen bij ADHD. Lees hoe op MHBioShop.com


Huile de CBD peut aider avec TDAH. Visite HuileCBD.be


Het is een ding dat bedrijven algoritmen gebruiken om advertenties voor schoenen te personaliseren of je in een Facebook-foto te taggen. Het is een heel ander verhaal wanneer algoritmes beslissen of ze je op borgtocht vrijlaten of naar de gevangenis sturen . Hoewel velen hun zorgen hebben geuit over het gebruik van algoritmen om dergelijke beslissingen met hoge inzet te informeren, hebben weinigen besproken hoe we kunnen bepalen of ze daadwerkelijk veilig en effectief kunnen worden gebruikt.

Als gezondheidstechnici denken we dat het nuttig is om deze algoritmen met een hoge inzet te bekijken als geneesmiddelen op recept of medische apparaten. Tientallen jaren hebben farma- en biotech-bedrijven geneesmiddelen getest door middel van nauwkeurig afgestelde klinische onderzoeken. Waarom neemt u sommige van deze best practices niet en gebruikt u deze om algoritmen te maken die veiliger, effectiever en zelfs ethischer zijn?

Algoritmen zijn als drugs

Beide algoritmen en medicijnen kunnen een enorme impact hebben op mensenlevens – het is de kunst om de voordelen en risico’s in balans te houden. Chemotherapie medicijnen, bijvoorbeeld, kunnen de tumor van een patiënt doen slinken, maar ze kunnen ook schokkende bijwerkingen veroorzaken. Algoritmen zijn vrijwel hetzelfde. Een algoritme dat in kinderbeschermingsservices wordt gebruikt om gevaar te voorspellen, kan iemand van geweld behoeden, maar een misplaatste controle kan onnodig opdringerig zijn voor gezinnen.

Maar in tegenstelling tot risicovolle medicijnen en medische procedures, werken we met algoritmen zonder de waarschuwingslabels te lezen, omdat er geen zijn. Een oncoloog zou waarschijnlijk nooit invasieve chemotherapie-medicijnen aanbevelen voor een gezond persoon; het is alleen bij de behandeling van een agressieve kanker dat we de risico’s en voordelen in overweging nemen. Bij het overwegen van toepassingen met hoge inzetten van technologieën, zouden architecten van AI-systemen een vergelijkbare aanpak kunnen volgen die zowel de risico’s als de potentiële voordelen omvat.

Omdat algoritmen en medicijnen overeenkomsten hebben, kunnen we leren van bestaande, succesvolle regelgevingsparadigma’s in de gezondheidszorg om na te denken over algoritmen. Hier zijn enkele manieren waarop ze vergelijkbaar zijn.

Ze beïnvloeden levens. Net als medicijnen en apparaten, hebben algoritmen met hoge inzetten het potentieel om de wereld van een gebruiker op belangrijke manieren te transformeren. Algoritmen zijn al ontwikkeld om aanbevelingen te doen over de vraag of beklaagden op borgtocht moeten worden vrijgelaten , om medische voordelen te bepalen en om docenten te evalueren .

Ze kunnen worden gebruikt als medische behandeling. Er is een heel nieuw gebied van software-gestuurde behandelingen genaamd digitale therapeutica (DTx), dit zijn softwareprogramma’s die een ziekte voorkomen, beheren of behandelen. Zo heeft Akili Interactive Labs een DTX gemaakt die eruit ziet en aanvoelt als een videogame om ADHD voor kinderen te behandelen. Sommige zijn zelfs goedgekeurd door de Amerikaanse Food and Drug Administration (FDA), zoals Reset , een product van Pear Therapeutics voor de behandeling van stoornissen in het gebruik van opioïden.

Ze presteren anders op verschillende populaties. Sommige medicijnen werken op één populatie, maar niet op een andere. Bijvoorbeeld, de bloedverdunner clopidogrel, of Plavix, werkt niet in de 75% van de Pacific Islanders, van wie het lichaam niet het enzym produceert dat nodig is om het medicijn te activeren. Evenzo kunnen algoritmen verschillende populaties verschillend beïnvloeden vanwege algoritmische vertekening. Amazon’s AI-gedreven wervingplatform had bijvoorbeeld een systematische vooroordeel tegen vrouwelijk georiënteerde woorden in cv’s.

Onderzoekers hebben op dergelijke bevindingen gereageerd door strategieën te ontwikkelen voor het detecteren en verminderen van algoritmische vertekening. Verkooppunten zoals Propublica hebben probleemalgoritmen onderzocht , terwijl computerwetenschappers academische conferenties en onderzoekscentra hebben opgericht die op het onderwerp zijn gericht. Deze initiatieven zijn stappen in de goede richting, net zoals een groeiend momentum voor meer representatieve klinische onderzoeken waarschijnlijk zal leiden tot beter medisch onderzoek .

Ze kunnen bijwerkingen hebben. Net zoals een medicijn dat op één aandoening gericht is bijwerkingen in een ander systeem kan hebben, kunnen algoritmen ook onbedoelde effecten hebben. In de online oorlog om aandacht kan een website die ernaar streeft de betrokkenheid te vergroten achteraf vaststellen dat de algoritmes voor machine-learning hebben geleerd te optimaliseren voor boosheid en angstwekkende inhoud om de tijd die op de site wordt doorgebracht te vergroten . In de zoektocht om het product plakkerig te maken, is het neveneffect een ongewenst gedragsverandering – verontwaardiging – in de gebruikerspopulatie.

Wat we kunnen leren van de ontwikkeling van geneesmiddelen om betere algoritmen te bouwen

Bij de ontwikkeling van geneesmiddelen moeten fabrikanten de veiligheid en effectiviteit van geneesmiddelen bewijzen voordat ze op de markt komen. Maar terwijl de FDA dergelijke protocollen heeft gemaakt en afdwingt, blijven algoritmen grotendeels ongereguleerd.

Enkele basisprincipes helpen illustreren hoe instrumenten uit de ontwikkeling van geneesmiddelen kunnen worden gebruikt om veiligere, effectievere algoritmen te bouwen:

Omgaan met “ongewenste voorvallen.” Het nemen van geneesmiddelen op recept heeft het risico van verwonding, ziekenhuisopname en andere ongewenste voorvallen, zoals de industrie ze noemt. De FDA heeft een goed gedocumenteerde openbare rapportagestructuur voor het afhandelen van dergelijke ongelukken, waarbij meldingen van ernstige gebeurtenissen zoals overlijden en ziekenhuisopname vrijwillig worden vastgelegd in een openbare database.

Maar wat doen we als de medische “invoer” een algoritme is? We beschikken momenteel niet over krachtige openbare rapportagetools om ongunstige algoritme-uitkomsten aan te pakken, zoals de Cambridge Analytica-crisis op Facebook, maar openbare databases kunnen worden gemaakt voor veelvoorkomende use-cases.

Weten hoe het product werkt. Voordat een fabrikant een medicijn op de markt brengt, moeten ze de biochemische interactie tussen het lichaam en het medicijn begrijpen. Maar dit is nooit het geval geweest voor algoritmen. Vanwege het ‘Black Box-effect’ zijn veel algoritmen voor het leren van apparaten moeilijk of zelfs onmogelijk te interpreteren. Dit moet waar mogelijk worden erkend en aangepakt. Wanneer we begrijpen hoe de ingangen worden omgezet in outputs, is het gemakkelijker om potentiële risico’s te begrijpen als het systeem niet goed functioneert.

Begrijpen voor wie het product is bedoeld. Klinische onderzoekers moeten de doelgebruikers van een geneesmiddel duidelijk definiëren, zodat een voorschrijvend arts erop kan vertrouwen dat het geneesmiddel met succes is getest bij vergelijkbare patiënten. Evenzo moeten goed ontworpen algoritmen de kenmerken definiëren van de populatie waarin ze bedoeld zijn te worden gebruikt. Omdat algoritmen anders kunnen presteren in populaties waarvoor het algoritme niet is ontwikkeld, is het essentieel om ervoor te zorgen dat algoritmen specificeren en documenteren welke populaties en de cases waarop ze van toepassing zijn. Dit geeft het vertrouwen dat de risico’s en voordelen voor de doelgroep voldoende zijn bestudeerd en als een acceptabele afweging worden beschouwd.

Begrijpen hoe het product is ontwikkeld. Klinische proeven zijn gebaseerd op openbare registers en verplichte rapportage door sponsors ter ondersteuning van transparantie. Een dergelijk systeem houdt productontwikkelaars verantwoordelijk voor het uitvoeren van ethische studies en het publiceren van hun resultaten. De high-stakes algoritmen van tegenwoordig delen hun validatiemethoden vaak niet publiekelijk; omdat bedrijven hun algoritmische IP zo goed beschermen, is het vaak onduidelijk hoe een product is getest en of de resultaten reproduceerbaar zijn . Maar inzicht in hoe producten worden ontwikkeld, kan helpen om onbedoelde resultaten te verhelderen en te verminderen.

Gebruikers informeren over de risico’s en voordelen. Het Belmont-rapport , geschreven in 1979, schetst ethische grondbeginselen met betrekking tot menselijke onderwerpen in medisch onderzoek, zoals ‘informed consent’. Maar hoe bewust ben je van de subtiele experimenten die online aan je worden toegediend? Men zou kunnen stellen dat Facebook A / B nieuwe ontwerpelementen op zijn newsfeed test om te bepalen wat te implementeren, een vorm van niet-geaccepteerd menselijk-subject onderzoek is.

De geïnformeerde toestemming van de technische wereld is het privacybeleid en de servicevoorwaarden die bij veel apps en websites horen. Maar deze worden zelden gelezen door gebruikers, wat sommige onderzoekers aanspoort om naar hen te verwijzen als ” de grootste leugen op het internet .” Wanneer de inzet groot is, is het bijzonder belangrijk dat deze overeenkomsten niet alleen leesbaar zijn, maar ook gelezen door gebruikers. Met het doel het gebrek aan datatransitiviteit aan te pakken, heeft de Europese Unie de algemene gegevensbeschermingsverordening (GDPR) opgesteld, een van ’s werelds sterkste gegevensbeschermingsregels, die in mei 2018 van kracht werd met als doel het individu meer macht te geven over hun gegevens . Onder GDPR nemen bedrijven meer verantwoordelijkheid voor gegevensbescherming en is het een duidelijke verantwoordelijkheid om de toestemming te verkrijgen van de personen van wie zij informatie verzamelen. Individuen kunnen nu uitgebreide informatie opvragen over welke gegevens een bedrijf op hen heeft opgeslagen.  

Bescherming van gegevensrechten en privacy. In de gezondheidszorg hebben patiënten en clinici duidelijke rechten en regels voor het beheer van biospecimens zoals bloed, urine en genomen; onderzoekers kunnen deze specimens niet gebruiken voor onderzoek buiten de onderzoeken en procedures waarvoor de patiënt toestemming heeft gegeven. Maar er zijn geen equivalenten voor “digitale monsters”, die vaak zeer gevoelige individuele gegevens bevatten. Voor de meeste technologische producten zijn gegevensrechten en governance niet duidelijk voor gebruikers en vereisen algoritmen met een hoge inzet meer dan een standaardaanpak. Gegevensrechten moeten in het product zelf worden ingebakken en mogen niet blindelings worden gehaast om het aanmeldingsproces te voltooien.

Normen en governance creëren voor algoritmen

Internationale kwaliteit en ethische normen zijn al tientallen jaren goed ingeburgerd in de medische industrie: er is de goede klinische praktijk (GCP) voor het beheer van klinische proeven, Good Manufacturing Practice (GMP) voor producten en goede laboratoriumpraktijken (GLP) om de consistentie en betrouwbaarheid van producten te waarborgen onderzoekslaboratoria.

Is het tijd voor een Good Algorithm Practice (GAP)? Moeten we een FDA voor algoritmen instellen?

Er zijn verschillende obstakels om deze governancestructuren te laten werken. Vanwege de alomtegenwoordigheid van AI in verschillende disciplines, zou een wereldwijd regulerend lichaam onrealistisch zijn; overzicht kan en moet worden afgestemd op elk toepassingsgebied.

De gezondheidszorgsector is bijvoorbeeld al goed gepositioneerd om de algoritmen binnen zijn vakgebied te reguleren. De FDA is begonnen met het publiceren van gedetailleerde inhoud , het opstellen van richtlijnen en het opruimen van AI-gestuurde producten zoals digitale therapeutica. Andere industrieën met regelgevende instanties, zoals onderwijs en financiën, zouden ook verantwoordelijk kunnen zijn voor het formuleren van beste praktijken door middel van begeleiding of zelfs formele regelgeving. Veel andere industrieën hebben echter geen regelgevende instanties met publieke verantwoordelijkheid. In ongereguleerde omgevingen zullen brancheconsortia en marktleiders een belangrijke rol moeten spelen bij het formuleren van beste praktijken.

De maatschappij is op zoek naar manieren om veilige en effectieve algoritmen te ontwikkelen in instellingen met hoge inzetten. Hoewel er nog veel vragen overblijven, kunnen concepten en hulpmiddelen uit klinisch onderzoek worden gebruikt als een tot nadenken stemmend uitgangspunt.

Dit artikel maakt deel uit van Quartz Ideas , ons huis voor gedurfde argumenten en grote denkers.


CBD Olie kan helpen bij ADHD. Lees hoe op MHBioShop.com


Huile de CBD peut aider avec TDAH. Visite HuileCBD.be


Lees meer