Täuschung durch „Roboteranwalt“: Legal Chatbot DoNotPay einigt sich mit FTC auf Strafzahlung
Die US-amerikanische Firma DoNotPay, bekannt für ihre KI-gestützten Rechtsdienstleistungen zur Kündigung unerwünschter Abonnements und zur Anfechtung von Strafzetteln, hat sich mit der Federal Trade Commission (FTC) auf eine Vergleichszahlung von 193.000 US-Dollar geeinigt. Hintergrund ist die irreführende Vermarktung eines als „weltweit erster Roboteranwalt“ beworbenen KI-Tools. Laut FTC wurden die Funktionen des „Roboteranwalts“ nie ausreichend getestet und DoNotPay beschäftigte keinen Anwalt, um die juristischen Fähigkeiten des Chatbots zu überprüfen.
Im Rahmen des Vergleichs verpflichtet sich DoNotPay, frühere Nutzer aus den Jahren 2021 bis 2023 über die Einschränkungen des Services zu informieren. Zudem wird dem Unternehmen untersagt, in Zukunft Behauptungen über die Fähigkeit seiner KI aufzustellen, die eine professionelle juristische Dienstleistung ersetzen könnten, ohne dies nachweislich zu belegen.
Das KI-Tool von DoNotPay versprach, Nutzern bei rechtlichen Anliegen wie Klagen vor dem Amtsgericht, der Erstellung von Abmahnungen und der Anfertigung juristischer Dokumente wie Geheimhaltungsvereinbarungen, Geschäftsverträgen, Eheverträgen und Sorgerechtsvereinbarungen zu helfen. Ursprünglich plante das Unternehmen sogar den Einsatz des „Roboteranwalts“ in physischen Gerichtssälen, zog diese Idee jedoch Anfang 2023 nach Drohungen von Anwaltskammern zurück.
Besonders problematisch für die FTC war ein angebliches Zitat auf der Website von DoNotPay, das die Fähigkeiten der KI lobte und fälschlicherweise der Los Angeles Times zugeschrieben wurde. Tatsächlich stammte das Zitat von der Los Angeles Times High School Insider-Seite, einer Plattform für Schülerbeiträge. Weiterhin stellte die FTC fest, dass DoNotPay die Qualität der durch den Chatbot erstellten juristischen Dokumente nicht im erforderlichen Maße überprüft hat. Weder beschäftigte das Unternehmen Anwälte, noch zog es externe juristische Experten zur Bewertung heran.
Der Gründer von DoNotPay, Joshua Browder, hatte zuvor verkündet, dass sein Ziel sei, die „200-Milliarden-Dollar-Rechtsbranche mit künstlicher Intelligenz zu ersetzen“. Browder brach 2018 sein Studium im Rahmen des Thiel Fellowships ab, eines Programms, das von Investor Peter Thiel unterstützt wird und jungen Menschen finanzielle Mittel bietet, um ihre akademische Laufbahn zugunsten unternehmerischer Projekte aufzugeben.
Obwohl DoNotPay im Vergleich keine Haftung eingestanden hat, erklärte das Unternehmen, es habe konstruktiv mit der FTC zusammengearbeitet, um den Fall zu lösen. Die betroffenen Services seien nur von wenigen hundert Kunden genutzt worden und bereits seit längerem eingestellt. Für die Bewältigung der Angelegenheit habe das Unternehmen die ehemalige FTC-Direktorin Maneesha Mithal als externe Rechtsberaterin engagiert.
Die FTC nutzte den Fall als Gelegenheit, um eine härtere Gangart gegen KI-gestützte Dienstleistungen anzukündigen. Lina Khan, Vorsitzende der FTC, betonte, dass der Einsatz von KI keine Ausnahme von bestehenden Gesetzen darstelle. „Die Nutzung von KI zur Täuschung, Irreführung oder zum Betrug von Verbrauchern ist illegal“, erklärte Khan. Die Durchsetzungsmaßnahmen der FTC sollen sicherstellen, dass ehrliche Unternehmen und Innovatoren faire Chancen auf dem Markt erhalten und die Verbraucher geschützt werden.
