ChatGPT und die neue KI sorgen auf spannende und beängstigende Weise für Chaos in der Cybersicherheit

Generative künstliche Intelligenz transformiert die Cybersicherheit und hilft sowohl Angreifern als auch Verteidigern. Kriminelle nutzen KI, um hochentwickelte und neue Angriffe in großem Maßstab durchzuführen. Und Verteidiger verwenden dieselbe Technologie zum Schutz kritischer Infrastrukturen, Regierungsorganisationen und Unternehmensnetzwerke, so Christopher Ahlberg, CEO der Threat-Intelligence-Plattform Recorded Future.

Generative KI hat dazu beigetragen, dass böswillige Akteure innovieren und neue Angriffsstrategien entwickeln können, um so immer einen Schritt voraus der Cybersecurity-Abwehr zu bleiben. KI hilft Cyberkriminellen dabei, Angriffe zu automatisieren, Angriffsflächen zu scannen und Inhalte zu generieren, die in verschiedenen geografischen Regionen und bei unterschiedlichen demografischen Zielgruppen Anklang finden, sodass sie eine breitere Palette potenzieller Opfer in verschiedenen Ländern ins Visier nehmen können. Cyberkriminelle haben die Technologie übernommen, um überzeugende Phishing-E-Mails zu erstellen. KI-generierter Text hilft Angreifern dabei, hochgradig personalisierte E-Mails und Textnachrichten zu produzieren, die wahrscheinlicher sind, ihre Ziele zu täuschen.

"Ich denke, man muss nicht besonders kreativ sein, um zu erkennen, dass dies [Cyberkriminellen] helfen kann, zu Autoren zu werden, was ein Problem darstellt", sagte Ahlberg.

Verteidiger setzen KI ein, um Angriffe abzuwehren. Organisationen nutzen diese Technologie, um Lecks zu verhindern und Netzwerk-Schwachstellen proaktiv zu finden. Sie automatisiert auch dynamisch Aufgaben wie das Einrichten von Alarmen für bestimmte Schlüsselwörter und das Erkennen sensibler Informationen online. Threat-Hunter verwenden KI, um ungewöhnliche Muster zu identifizieren und große Mengen an Daten zusammenzufassen, indem sie Zusammenhänge zwischen verschiedenen Informationsquellen und versteckten Mustern erkennen.

Die Arbeit erfordert immer noch menschliche Experten, aber Ahlberg sagt, dass die generative KI-Technologie, die wir in Projekten wie ChatGPT sehen, helfen kann.

"Wir möchten den Analysezyklus beschleunigen [um] uns bei der Analyse mit der Geschwindigkeit des Denkens zu helfen", sagte er. "Das ist eine sehr schwierige Sache und ich denke, wir erleben hier einen Durchbruch, was ziemlich aufregend ist."

Ahlberg diskutierte auch die möglichen Bedrohungen, die hochintelligente Maschinen mit sich bringen könnten. Mit zunehmender Digitalisierung und Vernetzung der Welt könnten die Fähigkeit, die Realität zu manipulieren und Wahrnehmungen zu formen, von bösartigen Akteuren ausgenutzt werden. Diese Bedrohungen beschränken sich nicht nur auf Nationalstaaten, was die Situation noch komplexer und asymmetrischer macht.

AI hat das Potential, uns gegen diese aufkommenden Bedrohungen zu schützen, bringt aber auch eigene Risiken mit sich. Beispielsweise könnten Maschinen mit hoher Rechenleistung Systeme schneller und effektiver hacken als Menschen. Um diesen Bedrohungen entgegenzuwirken, müssen wir sicherstellen, dass KI defensiv eingesetzt wird und ein klares Verständnis davon haben, wer die Kontrolle hat.

Wenn KI (Künstliche Intelligenz) immer stärker in die Gesellschaft integriert wird, ist es wichtig, dass Gesetzgeber, Richter und andere Entscheidungsträger die Technologie und ihre Auswirkungen verstehen. Eine enge Zusammenarbeit zwischen technischen Experten und politischen Entscheidungsträgern ist entscheidend, um die Zukunft der KI in der Bedrohungssuche und darüber hinaus zu bewältigen.

Die Chancen, Herausforderungen und ethischen Überlegungen von KI in der Cybersicherheit sind komplex und entwickeln sich ständig weiter. Die Gewährleistung unvoreingenommener KI-Modelle und die Aufrechterhaltung menschlicher Beteiligung bei Entscheidungsprozessen werden dazu beitragen, ethische Herausforderungen zu bewältigen. Wachsamkeit, Zusammenarbeit und ein klares Verständnis der Technologie werden entscheidend sein, um langfristigen Bedrohungen durch hochintelligente Maschinen zu begegnen.

Ahlberg äußerte auch Bedenken über China, Russland und wirtschaftliche Gegner, die autonome Maschinen einsetzen. Diese Länder werden wahrscheinlich die Entwicklung der künstlichen Intelligenz nicht verlangsamen oder sich ethischen Erwägungen teilen. Obwohl es klug ist, die Möglichkeit zu haben, solche Maschinen "abzuschalten", betont er, dass die Integration von Technologie in die Gesellschaft und die Weltwirtschaft es wahrscheinlich erschweren wird, sich davon zu lösen. Ahlberg legt großen Wert darauf, Produkte und Maschinen so zu gestalten, dass klar ist, wer sie kontrolliert.

"Das Große, was das Internet in all dem bewirkt hat, ist, dass das Internet sozusagen zum Ort wurde, an den all die Informationen der Welt migriert sind", sagt Ahlberg. "Diese großen Sprachmodelle leisten ziemlich magische Dinge, um diesen Denkprozess zu beschleunigen."

Er fügte hinzu: "In den nächsten 25 Jahren wird die Welt zum Spiegel des Internets."