Italien hat gerade ChatGPT verboten. Könnte als nächstes die USA an der Reihe sein?

Generative AI-Modelle, wie zum Beispiel das von OpenAI entwickelte ChatGPT, sammeln Daten, um ihre eigenen Modelle weiter anzupassen und zu trainieren. Italien betrachtet diese Datensammlung als potenzielle Verletzung der Benutzerdaten und hat daher ChatGPT im Land verboten.

Am Freitag veröffentlichte die Italienische Datenschutzbehörde eine Erklärung, in der sie eine sofortige vorläufige Beschränkung der Verarbeitung von Daten italienischer Benutzer durch OpenAI auferlegt.

Die beiden Hauptprobleme, die das Verbot zu lösen versucht, sind die unbefugte Sammlung von Benutzerdaten und das Fehlen von Altersverifikation, was dazu führt, dass Kinder auf Antworten stoßen, die "absolut unangemessen für ihr Alter und ihr Bewusstsein" sind, wie in der Erklärung angegeben.

In Bezug auf die Datensammlung behaupten die Behörden, dass OpenAI nicht rechtlich autorisiert wurde, Benutzerdaten zu sammeln.

"Es scheint keine rechtliche Grundlage für die massive Sammlung und Verarbeitung von personenbezogenen Daten zu geben, um die Algorithmen zu 'trainieren', auf die die Plattform angewiesen ist", so die Italienische Datenschutzbehörde in der Pressemitteilung.

Der von OpenAI benannte Vertreter im Europäischen Wirtschaftsraum hat 20 Tage Zeit, um der Anordnung nachzukommen. Andernfalls könnte das KI-Forschungsunternehmen mit einer Geldstrafe von bis zu 20 Millionen Euro oder 4% des weltweiten Gesamtjahresumsatzes belegt werden.

Die Entscheidung wurde nach einem Datenleck am 20. März getroffen, bei dem Gespräche und Zahlungsinformationen von ChatGPT-Nutzern offengelegt wurden.

Dieser Vorfall hat das Potenzialrisiko der Nutzung von KI-Tools hervorgehoben, die sich noch in der Forschungsphase befinden, aber dennoch öffentlich zugänglich sind.

Kann es also bald ein Verbot in den USA geben? Technologieführer in den USA haben bereits begonnen, ein vorübergehendes Verbot weiterer KI-Entwicklungen zu fordern.

Früher in dieser Woche haben Tesla CEO Elon Musk, Apple Mitbegründer Steve Wozniak und Emad Mostaque, CEO von Stability AI, zu den Technologieführern gehört, die eine Petition unterzeichnet haben. In dieser wird AI-Labors dazu aufgefordert, das Training von KI-Systemen, die mächtiger sind als GPT-4, für mindestens sechs Monate zu pausieren.

Wie das Italien-Verbot soll auch die von der Petition geforderte Pause dazu dienen, die Gesellschaft vor den "tiefgreifenden Risiken für die Gesellschaft und die Menschheit" zu schützen, die KI-Systeme mit menschenähnlicher Intelligenz hervorrufen können.

Die Petition fordert sogar US-Gesetzgeber auf, eine Intervention in Betracht zu ziehen, falls sich die Pause nicht von den KI-Laboren selbst ergibt.