Einloggen

Im Podcast

Sascha Lobo über den gesellschaftlichen Wandel durch KI

3. Juli 2024 · 4 Min

KI ist eine Dual-Use-Technologie. Menschliche Fähigkeiten werden plötzlich in Masse und Geschwindigkeit skalierbar – im Guten wie im Schlechten.”

Die Künstliche Intelligenz revolutioniert nicht nur Angriffsmethoden, sondern eröffnet auch neue Verteidigungsstrategien. Viele in der Geschäftswelt sehen die rapide Entwicklung von vernetzten Technologien und KI noch mit einer Mischung aus Furcht und Respekt. Doch in der Welt der Cybersecurity kann Angst ein hinderlicher Faktor sein, der zu Handlungsunfähigkeit führt. Wir stehen an der Schwelle zu einer umfassenden KI-Transformation, die laut Sascha Lobo vor allem durch die Weiterbildung und das kontinuierliche Lernen der Mitarbeitenden vorangetrieben wird.

Background

Human
Firewall
Podcast

Jetzt hören

Episode 5: Sascha Lobo über Cybersecurity und Kl: Nutzen und Herausforderungen der Technologieorganization.

In der fünften Episode spricht Dr. Niklas Hellemann mit Sascha Lobo darüber, wie selbst KI-Experten von der rasanten Entwicklung der Technologie überrascht wurden. Sie diskutieren, welches Maß an Regulierung angemessen ist und wie ein gezielt deregulierter Ansatz den europäischen Markt beleben könnte.

Episode 5 im Überblick

Möchten Sie direkt zu den Themen springen, die Sie am meisten interessieren? Unser detaillierter Überblick hilft Ihnen, genau diese Stellen schnell zu finden.

Dr. Niklas Hellemann & Sascha Lobo
Minute
Description

00:00:00 – 00:01:55

Einleitung und Vorstellung von Sascha Lobo

00:01:56 – 00:12:53

Überraschungsmoment KI: Warum KI gerade den Beginn einer neuen Ära einläutet

00:12:54 – 00:21:31

Die KI-Regulierungsdebatte: Chancen und Gefahren

00:21:32 – 00:29:56

Wie KI Cyber-Angriffe verändert

00:29:57 – 00:39:38

KI im Security-Bereich: Warum adaptives Lernen so wichtig ist

00:39:39 – 00:50:30

Wie EU-Regulierungen die Technologieentwicklung hemmen

00:50:31 – 00:54:29

KI-Transformation: Wie KI die Gesellschaft und Wirtschaft transformiert

00:54:30 – 01:00:27

Die KI-Zukunft in Europa: Zusammenfassung und Schlusswort

Background dots

Highlights & Key Learnings: Das Wichtigste auf einen Blick

Die Verteidigungsseite hat nicht nur die Möglichkeit, sondern geradezu die Verpflichtung, das Potenzial von KI zu nutzen.”

  • Beginn einer KI-Transformation: KI ersetzt keinen Menschen. Sondern ein Mensch, der KI einsetzt, wird fünf Menschen ersetzen, die keine KI benutzen.
  • Skalierbarkeit von Aufgaben: KI automatisiert schöpferische Tätigkeiten und führt sie mit hoher Geschwindigkeit aus. Mit KI werden Aufgaben auch von der Anzahl her skalierbar.
  • Desinformation und Cyberkriminalität: KI ermöglicht eine Multiplizierung von Angriffen in einem solchen Ausmaß, das für viele Menschen noch schwer vorstellbar ist. Und bereits geringe Datenmengen reichen aus, um KI für missbräuchliche Zwecke einzusetzen.
  • Vor- und Nachteile einer KI-Regulierung: KI ist eine so machtvolle Technologie, dass sie neue Herausforderungen an eine Regulierung schafft. Aber eine bestimmte Form von Nichtregulierung kann jedoch den KI-Markt beflügeln.
  • Rapide KI-Entwicklung löst Ängste aus: Ein Teil der Geschäftswelt steht dem technologischen Wandel und vor allem der KI mit Furcht und Respekt, oder auch mit Angst, gegenüber.
  • Angstfreie Diskussion um KI: Unsicherheit und Respekt können das Sicherheitsbewusstsein schärfen, während Angst im Security-Bereich tendenziell handlungsunfähig macht.
  • KI und Faktor Mensch: Der menschliche Faktor ist manchmal die größte Hürde in der Cybersecurity. Sicherheitsmaßnahmen greifen nur, wenn Menschen sie richtig einsetzen.
  • Lernen und Kommunizieren: Die Wirksamkeit von Sicherheitsmaßnahmen hängt oft vom Verständnis ab. Die KI-Transformation ist vor allem eine Frage der Fort- und Weiterbildung für Mitarbeitende.
  • Adaptives Lernen: Generative KI ermöglicht ein kontinuierliches Lernen im digitalen Raum, das vorher so nicht denkbar war, zum Beispiel mit anpassbaren Lernmodellen.

Europa braucht eine spezifische KI und eine generative KI, um die europäischen Stärken seitens der Industrie, Produktion und Wirtschaft bestmöglich zu nutzen.”

Vertiefen Sie Ihr Wissen: Weiterführende Informationen

  • Der KI-Irrtum des KI-Forschers von Meta: Yann LeCun, Informatiker und Träger des Turing Awards 2018 spricht im Januar 2022 vor Veröffentlichung von ChatGPT 3.5 in der Podcast-Folge „Meta AI, Open Source, Limits of LLMs, AGI & the Future of AI“ darüber, was die KI nie lernen wird, und irrt sich damit gewaltig.
  • Google-Chatbot LaMDA: Google-Mitarbeiter Blake Lemoine behauptet 2022, dass die Chatbot-KI LaMDA ein Bewusstsein entwickelt habe, und wird daraufhin entlassen. 
  • KI entwickelt 40.000 chemische Waffen in sechs Stunden: Forschende des Unternehmens Collaborations Pharmaceuticals konnten zeigen, dass ihr Algorithmus mit Anpassungen auch potenziell tödliche Moleküle finden kann und demonstrieren damit das hohe Missbrauchspotenzial von KI.
  • In 48 Stunden zum Corona-Impfstoff: In der Folge „The Machine That Made the Vaccine“ im Podcast von Andreessen Horowitz erzählt der CEO von Moderna, mit welcher Technologie der Impfstoff entwickelt wurde.
  • Dynamite Phishing: Welche Methoden des Social Engineering gibt es? Lernen Sie den Unterschied zwischen Baiting, Spear Phishing und Dynamite Phishing kennen.   
  • McKinsey-Studie zu „Künstliche Intelligenz und Lehrberufe“: Das Automatisierungspotenzial von KI für den Unterricht wird dazu führen, dass Lehrkräfte mehr Zeit für andere Tätigkeiten haben werden.
  • ELIZA-Modell von Joseph Weizenbaum: Dieses Computerprogramm wurde in den 1960er Jahren entwickelt und gehört zu den ersten Chatbots, mit dem Mensch und Maschine in natürlicher Sprache miteinander kommunizieren konnten.
  • Havard Studie „Navigating the Jagged Technological Frontier“: Wie sich KI auf die Produktivität und Qualität von Mitarbeitenden im Bereich Forschung und Entwicklung auswirkt.

Entdecken Sie mehr im Podcast: Weiterhören lohnt sich

Künstliche Intelligenz markiert den Anfang einer neuen Ära, die in ihrer Bedeutung mit dem Beginn der Industrialisierung vergleichbar ist. Wir erleben eine KI-Transformation, die nahezu jede Branche beeinflussen und fast alle Berufsfelder verändern wird. KI ermöglicht dabei signifikante Effizienzsteigerungen, indem menschliche Fähigkeiten in Bezug auf Masse und Geschwindigkeit skalierbar werden – sowohl zum Vorteil als auch zum Nachteil. In der Cybersecurity ist es daher essenziell, ohne Angst, aber gut informiert über die Risiken von KI-Technologien zu sprechen, um handlungsfähig zu bleiben.

Im Human Firewall Podcast diskutiert Dr. Niklas Hellemann mit Experten und Expertinnen aktuelle und spannende Themen aus der IT-Security-Branche, zu Security Awareness und zum Faktor Mensch. Hören Sie rein und erfahren Sie unter anderem von CEO Ulrich Irnich, wie Vodafone Deutschland seine Mitarbeitenden zum Abwehrsystem macht, oder von Yorn Ziesche, CISO der Handelsblatt Media Group, welchen Cyberbedrohungen Medienunternehmen gegenüberstehen. Wenn Sie jedoch Ihr Wissen über KI erweitern und weitere Beispiele dafür ansehen möchten, wie KI für Social-Engineering-Angriffe eingesetzt wird, laden Sie unseren Report „Cybercrime Trends 2024 “ herunter.

Cybercrime-
Trends
2024

Report lesen

Entdecken Sie die 8 größten Cybercrime-Trends 2024, wertvolle Experten-Insights zur aktuellen Bedrohungslage und wichtige Tipps zu Ihrem Schutz.

Bleiben Sie Cyberkriminellen immer einen Schritt voraus

Melden Sie sich für unseren Newsletter an, um die neuesten Beiträge zum Thema Informationssicherheit sowie News zu Events und Security-Ressourcen zu erhalten.
Immer up-to-date – immer sicher!

Newsletter visual