Die aktuellen Innovationen im Bereich der KI führen natürlich dazu, dass immer mehr Unternehmen sie in ihre Geschäftsabläufe einbinden wollen. Dabei können KIs jedoch nicht zwischen richtig und falsch entscheiden, weshalb eine unkontrollierte Verwendung schnell zu unvorhergesehenen Problemen führt. Die Krankenkasse Barmer und PIA Dymatrix haben deshalb ein Regelwerk konzipiert, dass zumindest die Nutzung von KI in der Marketing Automation in die gewünschten Bahnen lenkt.
In der Marketing Automation wollen beide Unternehmen die KI primär dafür verwenden, eine „Next Best Action“ für die Nutzer zu prognostizieren. Webseiten-Besucher oder Newsletter-Leser werden dann zu den Inhalten weitergeleitet, die sie vermutlich gerade am meisten interessieren – sei es eine Mediationsapp oder ein Kurs zur Muskelentspannung. Die Idee dahinter funktioniert allerdings nur solange reibungslos, bis Nutzer nach schwerwiegenderen Krankheiten suchen und vermehrt dazu passende Inhalte zu sehen bekommen. Dadurch könnte ihnen fälschlicherweise suggeriert werden, dass sie wirklich daran erkrankt sind.
Um dies zu verhindern, teilt das Regelwerk den möglichen Daten-Input und Content-Output anhand ethischer Kriterien in vier Kategorien ein, in denen die Nutzung in KI-Modellen individuell reguliert oder sogar generell ausgeschlossen wird. Dabei handelt es sich um Daten und Inhalte mit inakzeptablem Risiko (z.B. Krebserkrankung), mit hohem Risiko (z.B. Schwangerschaft), mit beschränktem Risiko (z.B. Alter der Versicherten) und minimalem Risiko (z.B. Versichertenstatus). Der Einsatz der KI-Modelle wird zudem transparent und einfach auf der Webseite und im Newsletter erklärt, wobei Nutzer ihn auch noch selbst für sich anpassen dürfen.
