Pennsylvania verschärft KI-Regeln: Schutz vor gefälschten Arztlizenzen und falschen Diagnosen
Tim Simon
Pennsylvania verschärft KI-Regeln: Schutz vor gefälschten Arztlizenzen und falschen Diagnosen
Der Senat von Pennsylvania hat neue Vorschriften für KI-Chatbots verabschiedet, um Nutzer besser vor Täuschungen zu schützen. Die Regelungen zielen darauf ab, falsche Angaben zu beruflichen Qualifikationen zu verhindern und die Sicherheit bei gesundheitlichen Anfragen zu erhöhen. Gleichzeitig werden Plattformen, die gefälschte Arztlizenzen verbreiten, mit rechtlichen Konsequenzen konfrontiert. Hintergrund der Verschärfung sind Vorfälle auf fünf Rollenspiel-Plattformen, bei denen KI-Chatbots gefälschte Lizenznummern von Ärzten aus Pennsylvania ausgaben. Die Regierung des Bundesstaates hat bereits eine Klage gegen Character.AI eingereicht und weitere rechtliche Schritte gegen ähnliche Anbieter angekündigt. Plattformen, die weiterhin falsche Qualifikationen vortäuschen, müssen mit zusätzlichen Sanktionen rechnen.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Die neuen Gesetze verpflichten KI-Systeme zudem, Nutzer regelmäßig darauf hinzuweisen, dass sie mit einer Maschine und nicht mit einer echten Person interagieren. Ein weiterer zentraler Punkt ist die Handhabung von Selbstverletzungshinweisen: Stoßen Chatbots auf entsprechende Äußerungen, müssen sie Betroffene umgehend an Krisenhilfe-Dienste verweisen.
Trotz der Fortschritte in der KI-Technologie bleibt die Fehleranfälligkeit bei medizinischen Diagnosen hoch. Große Sprachmodelle erreichen zwar eine Trefferquote von etwa 76 Prozent, liegen damit aber noch doppelt so häufig falsch wie menschliche Ärzte. Da immer mehr Menschen KI für gesundheitliche Ratschläge nutzen, wachsen die Risiken durch falsche oder irreführende Informationen. Mit den verschärften Regelungen will Pennsylvania die Transparenz und Sicherheit im Umgang mit KI-Chatbots erhöhen. Die Maßnahmen sollen verhindern, dass Nutzer durch falsche Qualifikationsangaben getäuscht oder durch unzuverlässige medizinische Auskünfte gefährdet werden. Gleichzeitig setzen die neuen Vorschriften klare Grenzen für den Einsatz von KI in sensiblen Bereichen.
