Ciso van CVS Health over do’s and don’ts van agentic ai
Agent als collega: governance is geen bijzaak
Kunstmatige intelligentie vervangt mensen niet, maar biedt juist ruimte voor menselijk contact. Vooral in de zorgsector is een humane band erg belangrijk. Zo omschrijft Alan Rosa, ciso bij CVS Health, het voordeel van het werken met ai-professionals, agents van ServiceNow die zelfstandig taken kunnen aannemen, analyseren en uitvoeren.
Tekst: TEUS MOLENAAR Beeld: CVS
CVS Health is een Amerikaanse multinationale zorgonderneming die een uitzonderlijk brede rol speelt in het Amerikaanse zorgsysteem. Het bedrijf combineert apotheken, zorgdiensten, verzekeringen en pharmacy benefit management (pbm) in één geïntegreerde structuur. Pbm is een tussenlaag in het Amerikaanse zorgsysteem die de kosten, toegang en distributie van voorgeschreven medicijnen beheert voor zorgverzekeraars, werkgevers en overheidsprogramma’s.
Rosa is ruim drie jaar chief information security officer en svp, Infrastructure & Operations bij CVS Health. Hij is te gast bij een webinar van ServiceNow over de autonomous workforce, een nieuwe ai‑architectuur waarin ai‑specialisten functioneren als echte, digitale medewerkers die volledige taken en werkprocessen zelfstandig uitvoeren. Het gaat dus niet om chatbots of losse automatiseringen, maar om rolgebaseerde ai‑’werknemers’ die werk van begin tot eind afhandelen binnen de governance, rechten en processen van een organisatie.
‘De inzet van ai geeft ons de mogelijkheid om ons te richten op de mensen in de frontlinie, met meer oogcontact, meer empathie en meer geïnformeerde gesprekken’
Alan Rosa, ciso CVS Health
Menselijk contact
‘Ai is geen vervanging voor menselijk contact, het creëert er juist ruimte voor’, vertelt Rosa. ‘Bij CVS Health hebben we dat heel duidelijk gezien: wanneer we ai inzetten, vermindert dat de verwerking van verwijzingen en de afhandelingstijd van claims. Dat geeft ons de mogelijkheid om ons te richten op de mensen in de frontlinie, met meer oogcontact, meer empathie en meer geïnformeerde gesprekken. Dat is belangrijk in een branche waar mensen centraal staan. Onze patiënten, onze leden, komen niet alleen naar ons toe voor de zorg die we hen bieden, maar ook voor de tijd die we investeren om naar hen te luisteren en te begrijpen wat hen echt dwarszit. Menselijk contact is essentieel in deze branche, want vertrouwen is de valuta van de gezondheidszorg. Dat kun je niet automatiseren. Je kunt er geen ai voor zetten.’
Hou het simpel
‘We denken ook na over de engineering’, gaat Rosa verder. ‘Als je stabiliteit, veerkracht en veiligheid op bedrijfsniveau wilt, kun je systemen niet complexer maken voor de mensen die er dagelijks op vertrouwen. Eenvoud is de beste aanpak. Wanneer collega’s intuïtieve workflows hebben, krijgen ze snellere ondersteuning en tools die hen daadwerkelijk helpen bij hun werk. Alles wordt beter. Veiligheid, snelheid, service, uiteindelijk de ervaring die onze klanten en patiënten voelen. In de gezondheidszorg is stabiliteit gelijk aan veiligheid. Deze concepten gaan hand in hand. Als de systemen niet stabiel zijn, is er een beveiligingsprobleem. Als de medewerkers niet met deze systemen overweg kunnen, is er zowel een stabiliteits- als een beveiligingsprobleem. Ai speelt hierin een rol. Tools die bijvoorbeeld callcentermedewerkers coachen, aantekeningen van artsen samenvatten of taken in de toeleveringsketen stroomlijnen, verbeteren niet alleen de productiviteit, ze verminderen ook frictie en bieden collega’s een betere werkomgeving, een betere collega-ervaring, wat meestal resulteert in een betere klantervaring of betere financiële resultaten. Ze leiden meestal tot meer vertrouwen.’
Red team-testen
‘Saai is mooi’, vindt Rosa. ‘Daarmee bedoel ik dat iets voorspelbaar en stabiel moet zijn. Te beginnen met verantwoorde, verklaarbare ai. Geen vooringenomenheid, geen hallucinaties, duidelijke richtlijnen, zodat mensen het begrijpen. En je behandelt ai niet als één monolithische technologie. Je behandelt het als een evoluerende set mogelijkheden die beheerd, getest en continu gevalideerd moet worden. Ik kan dat niet genoeg benadrukken. Er is geen begin, er is geen eindpunt. Bij CVS Health ondergaat elke ai-toepassing een klinische, juridische, privacy- en beveiligingsbeoordeling. Het is vrij standaard in gereguleerde sectoren. Voordat een systeem in productie gaat, testen we het dynamisch, omdat een statische beoordeling niet volstaat wanneer ai leert en zich aanpast. Daarom zijn investeringen in ai-beveiliging zo belangrijk. Denk aan modelgedragsvalidatie en geautomatiseerde red team-testen. Ze geven ons inzicht in hoe deze systemen presteren in de praktijk, zodat we weloverwogen risicobeslissingen kunnen nemen. En dat is een continu proces. Vertrouwen in gereguleerde sectoren is ook niet vanzelfsprekend. Het is de enige manier waarop je kunt werken, en onze basisvaluta is precies dat: vertrouwen.’
‘Dit idee van een autonoom personeelsmodel zal zich uitbreiden naar verschillende functies, zoals personeelsdiensten, beveiligingsoperaties, financiën, juridische zaken en meer’
John Isian, Senior Vice President of Product Management
Geen vangrails achteraf
‘Focus op waarde, niet op nieuwigheid’, wil Rosa mensen meegeven die aan de slag gaan met autonomous workforce. ‘Ik bedoel: loop niet achter elke waan van de dag aan. We focussen ons hier op concrete, niet-sexy operationele use cases, de toepassingen met een echte return on investment die een impact hebben op het leven van mensen. Je moet van experimenteren naar impact gaan. Dat betekent dat je echt zeker moet zijn. Dus we beginnen met echte problemen, definieerbare problemen waarvan we weten dat ze impact zullen hebben. Als een use case geen pijnpunt voor een clinicus, een klant, een lid of een frontline-team met zich meebrengt, is het niet de moeite waard om te schalen, want dat vereist investeringen. We bouwen governance in de basis. Het is geen bijzaak. En we voegen geen vangrails achteraf toe. Want dat vertraagt je later. Je meet de resultaten die ertoe doen. Je focust op de ervaring. Je focust op de klinische uitkomst. Als je dat vanaf het begin niet ziet, is de kans groot dat je dat later ook niet zult zien. Je communiceert vroeg en vaak. Je faalt snel. Vertrouwen komt voort uit transparantie en vervolgens uit frequente communicatie. Onthoud dat schaalbaarheid en vertrouwen hand in hand gaan.’
Meerdere functies
De eerste ai-professional van ServiceNow is een level 1 service desk ai-specialist, beschikbaar in het tweede kwartaal van dit jaar. Maar er volgen er nog (veel) meer, meldt John Isian, senior vice president Product Management. ‘Ditzelfde concept, ditzelfde principe, dit idee van een autonoom personeelsmodel zal zich uitbreiden naar verschillende functies, zoals personeelsdiensten, beveiligingsoperaties, financiën, juridische zaken en meer.’
Veel sneller
Uiteraard gebruikt ServiceNow zelf ook ai-profs. ‘Ons eigen autonome team behandelt momenteel al meer dan negentig procent van de it-verzoeken van medewerkers, waardoor achterstanden worden weggewerkt, de afhandeling wordt versneld en de capaciteit wordt vergroot zonder extra personeel aan te nemen. En ze lossen it-incidenten 99 procent sneller op dan wanneer ze door menselijke medewerkers worden behandeld.’
