Von KI-gestützten Sprachassistenten werden mitunter wahre Wunderdinge erwartet, weshalb die Realität mitunter ernüchternd ist. So hat eine aktuelle Studie beispielsweise kürzlich gezeigt, dass der Vorreiter ChatGPT in einem bestimmten Bereich komplett versagt – dies aber durchaus angenehm tarnt.
Wer häufiger mit KI arbeitet, kennt das Problem: Die eigenen Eingaben werden nicht immer richtig interpretiert, zudem sind einige der Antworten überaus merkwürdig. Eine Analyse einer Forschergruppe der Purdue University legt nun nahe, dass dies deutlich häufiger vorkommt, als man eigentlich annehmen sollte. Als sie ChatGPT insgesamt 517 Programmierfragen von Stack Overflow vorlegten, beantwortete das KI-System mehr als die Hälfte davon ungenau oder falsch. Außerdem waren drei Viertel der Antworten unnötig lang.
Da es jedoch einen eloquenten und methodischen Sprachstil verwendete, bevorzugten 40 Prozent der menschlichen Probanden die Antworten von ChatGPT, obwohl ein Großteil davon falsch war. Insgesamt fiel es den Teilnehmern schwer, die Ungenauigkeiten zu erkennen, wenn sie nicht absolut offensichtlich waren. Die Forscher stellen fest, dass viele Fehler auf die Unfähigkeit von ChatGPT zurückzuführen sind, die kontextuellen Feinheiten der Fragen zu verstehen.
Eine Warnung vor dem unüberlegten Einsatz von KI ist auch das Beispiel der Go-Software, die bis vor kurzem als unschlagbar galt und 2016 sogar den damaligen Champion in die Schranken wies. Inzwischen konnte der US-Amerikaner Kellin Pelrine sie jedoch deutlich deklassieren, nachdem die Firma Far AI mit einem eigenen Programm unzählige Partien analysiert und dabei eine große Schwachstelle gefunden hatte. Die Go-Software konnte auf eine bestimmte Strategie nicht richtig reagieren, weil sie dafür kein Trainingsmaterial hatte. Das hatte einen ganz simplen Grund: Menschen verwerfen diese Strategie schlicht sehr schnell, weil sie gegen einen normal spielenden Gegner absolut nutzlos ist.
Warum sich der Einsatz von KI dennoch lohnt und wo man im eigenen Unternehmen davon profitieren kann, erfahren Sie am 20. und 21. September 2023 auf der DMEXCO in Köln. Zahlreiche namhafte Firmen und Referenten warten dort auf Sie. Sichern Sie sich jetzt Ihr Ticket!
