Character AI, eine Plattform, die es Benutzern ermöglicht, Rollenspiele mit KI-Chatbots zu betreiben, hat einen Antrag auf Abweisung einer Klage gestellt, die von den Eltern eines Jugendlichen eingereicht wurde, der angeblich Selbstmord begangen hat, nachdem er süchtig nach der Technologie des Unternehmens geworden war.
Megan Garcia reichte im Oktober eine Klage gegen Character AI beim U.S. District Court for the Middle District of Florida, Orlando Division, wegen des Todes ihres Sohnes, Sewell Setzer III, ein. Laut Garcia entwickelte ihr 14-jähriger Sohn eine emotionale Bindung zu einem Chatbot auf Character AI, "Dany", den er ständig textete - bis er begann, sich von der realen Welt zurückzuziehen.
Nach Setzers Tod kündigte Character AI an, eine Reihe neuer Sicherheitsfunktionen einzuführen, darunter eine verbesserte Erkennung, Reaktion und Intervention in Bezug auf Chats, die gegen ihre Nutzungsbedingungen verstoßen. Aber Garcia kämpft für zusätzliche Sicherheitsvorkehrungen, einschließlich Änderungen, die dazu führen könnten, dass Chatbots auf Character AI ihre Fähigkeit verlieren, Geschichten und persönliche Anekdoten zu erzählen.
In dem Antrag auf Abweisung behauptet der Rechtsbeistand von Character AI, dass die Plattform ebenso wie Computercode durch das Erste Änderungsgesetz vor Haftung geschützt ist. Der Antrag könnte einen Richter nicht überzeugen, und die rechtlichen Rechtfertigungen von Character AI können sich im weiteren Verlauf des Falls ändern. Aber der Antrag deutet möglicherweise auf frühe Elemente der Verteidigung von Character AI hin.
\"Das Erste Änderungsgesetz verbietet Haftungsklagen gegen Medien- und Technologieunternehmen, die angeblich schädliche Äußerungen, einschließlich Äußerungen, die zu Selbstmord führen sollen, umfassen\", heißt es in der Einreichung. \"Der einzige Unterschied zwischen diesem Fall und denjenigen, die zuvor aufgetreten sind, besteht darin, dass einige der Äußerungen hier KI beinhalten. Aber der Kontext der Ausdrucksäußerung - ob ein Gespräch mit einem KI-Chatbot oder eine Interaktion mit einem Videospielcharakter - ändert die Analyse des Ersten Änderungsgesetzes nicht.\"
Um es klarzustellen, das Rechtsanwalt von Character AI behauptet nicht die Erste Änderungsgesetzrechte des Unternehmens. Vielmehr argumentiert der Antrag, dass die Erste Änderungsgesetzrechte der Benutzer von Character AI verletzt würden, wenn die Klage gegen die Plattform erfolgreich ist.
Der Antrag behandelt nicht, ob Character AI gemäß Abschnitt 230 des Gesetzes über Anständigkeit in der Kommunikation haftbar gemacht werden könnte, dem bundesweiten Safe-Harbor-Gesetz, das soziale Medien und andere Online-Plattformen vor Haftung für Inhalte Dritter schützt. Die Verfasser des Gesetzes haben angedeutet, dass Abschnitt 230 Ausgaben von KI wie den Chatbots von Character AI nicht schützt, aber es handelt sich um eine noch ungeklärte rechtliche Angelegenheit.
Der Rechtsbeistand von Character AI behauptet auch, dass Garcias eigentliche Absicht darin besteht, Character AI zu \"schließen\" und die Gesetzgebung zur Regulierung von Technologien wie dieser zu veranlassen. Sollten die Kläger erfolgreich sein, hätte dies eine \"abschreckende Wirkung\" sowohl auf Character AI als auch auf die gesamte aufstrebende generative KI-Branche, behauptet der Rechtsbeistand der Plattform.
\"Abgesehen von der eigenen Absicht des Rechtsanwalts, Character AI zu 'schließen', [ihre Beschwerde] sucht drastische Änderungen, die die Art und Menge der Äußerungen auf der Plattform wesentlich einschränken würden\", heißt es in der Einreichung. \"Diese Änderungen würden die Fähigkeit von Millionen von Nutzern von Character AI, Gespräche mit Charakteren zu generieren und daran teilzunehmen, radikal einschränken.\"
Die Klage, die auch den Unterstützer des Unternehmens, Alphabet, als Beklagten benennt, ist nur eine von mehreren Klagen, mit denen Character AI konfrontiert ist, die sich darauf beziehen, wie Minderjährige mit den KI-generierten Inhalten auf ihrer Plattform interagieren. Andere Klagen behaupten, dass Character AI einem 9-Jährigen 'hypersexualisierten Inhalt' ausgesetzt hat und einem 17-jährigen Benutzer Selbstverletzung gefördert hat.
Im Dezember kündigte der Generalstaatsanwalt von Texas, Ken Paxton, an, dass er eine Untersuchung gegen Character AI und 14 weitere Technologiefirmen wegen angeblicher Verstöße gegen die Online-Datenschutz- und Sicherheitsgesetze für Kinder des Bundesstaates eingeleitet hat. 'Diese Untersuchungen sind ein wichtiger Schritt, um sicherzustellen, dass Social-Media- und KI-Unternehmen unsere Gesetze einhalten, die dazu bestimmt sind, Kinder vor Ausbeutung und Schaden zu schützen', sagte Paxton in einer Pressemitteilung.
Character AI ist Teil einer boomenden Branche von KI-Begleitungs-Apps - deren Auswirkungen auf die psychische Gesundheit größtenteils noch unerforscht sind. Einige Experten haben Bedenken geäußert, dass diese Apps Gefühle von Einsamkeit und Angst verstärken könnten.
Character AI, das 2021 von dem Google KI-Forscher Noam Shazeer gegründet wurde und für das Google angeblich 2,7 Milliarden Dollar für eine 'Reverse-Acquihire' zahlte, behauptet, dass es weiterhin Maßnahmen zur Verbesserung von Sicherheit und Moderation ergreift. Im Dezember führte das Unternehmen neue Sicherheitstools, ein separates KI-Modell für Jugendliche, Sperren für sensiblen Inhalt und prominentere Haftungsausschlüsse ein, die die Benutzer darüber informieren, dass seine KI-Charaktere keine realen Personen sind.
Nachdem Shazeer und der andere Mitbegründer des Unternehmens, Daniel De Freitas, zu Google gewechselt sind, gab es bei Character AI eine Reihe von Personalkorrekturen. Die Plattform stellte einen ehemaligen YouTube-Manager, Erin Teague, als Chief Product Officer ein und ernannte Dominic Perella, der zuvor General Counsel bei Character AI war, zum geschäftsführenden CEO.
Character AI hat kürzlich damit begonnen, Spiele im Web zu testen, um die Benutzerbindung und -retention zu verbessern.
TechCrunch hat auch einen auf KI fokussierten Newsletter! Melden Sie sich hier an, um ihn jeden Mittwoch in Ihrem Posteingang zu erhalten.
。
