Blogheim.at Logo
Aktuelles Kriminelle nutzen künstliche Intelligenz – nicht nur für Deepfakes
Die Corona-Krise! Wir brauchen deine Unterstützung! Die Corona-Krise stellt uns alle vor großen Herausforderungen und bringt uns an unsere Grenzen. Jeder gibt seinen Teil dazu bei um zu Unterstützen. Gegenüber anderen Medien haben wir keine “Pay-Wall” eingerichtet, denn wir möchten unsere Inhalte für alle offen halten. Wenn jeder, der unsere Faktenchecks liest, dabei hilft, diese zu finanzieren, wird es mimikama auch weiterhin geben und wir können gemeinsam gegen Fakenews vorgehen. Unterstütze uns und tragen auch Du dazu bei, die Zukunft von Mimikama zu sichern. Hier kannst Du unterstützen: via PayPal, Steady oderPatreon

Kriminelle nutzen künstliche Intelligenz – nicht nur für Deepfakes

Facebook-Themen

Push-Benachrichtigungen fördern Handy-Sucht nicht

Smartphone-Nutzer schauen bei Push-Benachrichtigungen automatisch auf den Bildschirm und erinnern sich oft nicht daran. Push-Benachrichtigungen haben wenig Einfluss auf die Smartphone-Sucht. Menschen nutzen ihre Handys...

Sammelklage gegen Drosten nur Quatschjura?

In seiner Reihe QuatschJura berichtet der Würzburger Anwalt Chan-Jo Jun über unsinnige oder pseudojuristische Aussagen, die auf Social Media verbreitet werden. Seit längerem schon wird...

Achtung Identitätsdiebstahl: Kriminelle versenden betrügerische E-Mails im Namen der Post!

Zahlreiche LeserInnen melden uns derzeit eine betrügerische E-Mail, die im Namen der Österreichischen Post verschickt wird. In diesem E-Mail werden Sie dazu aufgefordert, eine Ausweiskopie...

Zum Thema WhatsApp und Datenschutz

Auch wenn WhatsApp per Ende-zu-Ende-Verschlüsselung die Inhalte von Nachrichten schützt, können viele Infos der Nutzer gesammelt und weitergegeben werden. "Legale WhatsApp-Verwendung ist praktisch unmöglich." Dieser...
-WERBUNG-

Europol, UNICRI und Trend Micro berichten über aktuelle und zukünftige Bedrohungen durch KI

- Werbung -

Trend Micro stellt heute einen neuen Forschungsbericht vor, der in Zusammenarbeit mit Europol und dem Interregionalen Institut der Vereinten Nationen für Kriminalitäts- und Justizforschung (UNICRI) entstand. Darin befassen sich die Sicherheitsforscher mit der aktuellen und möglichen zukünftigen Nutzung von künstlicher Intelligenz (KI) durch Kriminelle. Der Bericht liefert Strafverfolgungsbehörden, politischen Entscheidungsträgern und anderen Organisationen Informationen über aktuell stattfindende und potenzielle zukünftige Angriffe, bei denen künstliche Intelligenz eingesetzt wird, sowie Empfehlungen zur Eindämmung dieser Risiken.

„KI verspricht der Welt mehr Effizienz, Automatisierung und Autonomie. In einer Zeit, in der die Öffentlichkeit zunehmend über den möglichen Missbrauch von KI besorgt ist, müssen wir die Bedrohungen transparent machen, aber auch die potenziellen Vorteile der KI-Technologie untersuchen“, sagt Edvardas Šileris, Leiter des Cyberkriminalitätszentrums von Europol (Europol EC3). „Dieser Bericht wird uns nicht nur dabei helfen, mögliche böswillige Verwendungen und Missbräuche von KI zu antizipieren, sondern auch diese Bedrohungen proaktiv zu verhindern und einzudämmen. Auf diese Weise können wir das Potenzial der KI freisetzen und von der positiven Nutzung der KI-Systeme profitieren.“

Der Bericht kommt zu dem Schluss, dass Cyberkriminelle KI sowohl als Angriffsvektor als auch als Angriffsoberfläche nutzen werden. Deepfakes (realistisch wirkende Medieninhalte wie Foto, Audio und Video, welche durch KI abgeändert und verfälscht wurden) stellen derzeit die bekannteste Nutzung von KI als Angriffsvektor dar. Der Bericht warnt jedoch davor, dass in Zukunft neue Screening-Technologien erforderlich sein werden, um das Risiko von Desinformationskampagnen und Erpressung sowie von Bedrohungen, die auf KI-Datensätze abzielen, zu verringern.

KI könnte beispielsweise eingesetzt werden, um folgende Angriffsarten zu unterstützen:

  • Überzeugende Social-Engineering-Angriffe in großem Maßstab
  • Malware, mit der in großem Maße bestimmte Daten aus Dokumenten exfiltriert werden können (Document Scraping)
  • Umgehung von Bilderkennung und Stimmbiometrie
  • Ransomware-Angriffe, bei denen die Opfer noch gezielter ausgewählt und Schutzmechanismen umgangen werden
  • Datenverschmutzung durch die Identifizierung von blinden Stellen in Erkennungsregeln

„In dem Maße, in dem KI-Anwendungen einen wachsenden Einfluss auf die reale Welt nehmen, wird klar, dass dies zukünftig eine grundlegende Technologie sein wird“, erklärt Irakli Beridze, Leiter des Zentrums für KI und Robotik bei UNICRI. „Doch so wie KI für die Gesellschaft sehr reale Vorteile bietet sind, ist auch die Bedrohung durch böswillige Nutzung allgegenwärtig. Wir fühlen uns geehrt, gemeinsam mit Europol und Trend Micro ein Licht auf die dunkle Seite der KI zu werfen und weitere Diskussionen zu diesem wichtigen Thema anzuregen.“

Der Report warnt auch davor, dass KI-Systeme entwickelt werden, um die Wirksamkeit von Malware zu verbessern und Anti-Malware- und Gesichtserkennungssysteme zu stören.

„Cyberkriminelle gehören schon immer zu den ersten Nutzern der neuesten Technologien – das ist auch bei KI so. Wie unser Bericht zeigt, wird sie bereits für das Ermitteln von Passwörtern, das Brechen von CAPTCHA-Codes und das Klonen von Stimmen verwendet. Zudem sind noch viele weitere bösartige Innovationen in Arbeit“, so Martin Rösler, Leiter des Forward-Looking Threat Research Teams bei Trend Micro. „Wir sind stolz darauf, mit Europol und UNICRI zusammenzuarbeiten, um das Bewusstsein für diese Bedrohung zu schärfen und auf diese Weise dazu beizutragen, eine sicherere digitale Zukunft für uns alle zu schaffen.“

Die drei Organisationen empfehlen zum Abschluss des Berichts verschiedene Maßnahmen im Umgang mit KI:

  • Nutzung des Potentials von KI-Technologie als Mittel zur Verbrechensbekämpfung, um die Cybersicherheits-Branche und die Polizei zukunftsfähig zu machen
  • Fortsetzung der Forschung im KI-Bereich, um weitere Verteidigungstechnologien zu entwickeln
  • Förderung und Entwicklung sicherer KI-Design-Frameworks
  • Deeskalation von politisch aufgeladener Rhetorik über den Einsatz von KI für Zwecke der Cybersicherheit
  • Nutzung öffentlich-privater Partnerschaften und Einrichtung multidisziplinärer Expertengruppen

Weitere Informationen:

Der vollständige Forschungsbericht Malicious Uses and Abuses of Artificial Intelligence ist in englischer Sprache hier zum Download verfügbar.

- Werbung -

Hinweis: Die Wiedergabe einzelner Bilder oder Videosequenzen dient zur Auseinandersetzung der Sache mit dem Thema.

Aktuelle Nachrichten aus dem In- und Ausland

Macron „schockiert“ über Bilder von Polizeigewalt gegen Schwarzen

0
In Frankreich sorgen neue Bilder von Polizeigewalt für Empörung: Die Pariser Staatsanwaltschaft eröffnete Ermittlungen gegen Polizisten, die einen Schwarzen geschlagen und getreten hatten, weil...
Die deutsche Komikerlegende Karl Dall ist tot

Karl Dall ist tot – die ersten Details!

0
Der Komiker Karl Dall ist im Alter von 79 Jahren verstorben. Das bestätigte seine Familie am 23. November, wie unter anderem „Focus“ berichtet.

Top-Artikel

Push-Benachrichtigungen fördern Handy-Sucht nicht

Smartphone-Nutzer schauen bei Push-Benachrichtigungen automatisch auf den Bildschirm und erinnern sich oft nicht daran. Push-Benachrichtigungen haben wenig Einfluss auf die Smartphone-Sucht. Menschen nutzen ihre Handys...

Sammelklage gegen Drosten nur Quatschjura?

In seiner Reihe QuatschJura berichtet der Würzburger Anwalt Chan-Jo Jun über unsinnige oder pseudojuristische Aussagen, die auf Social Media verbreitet werden. Seit längerem schon wird...

Achtung Identitätsdiebstahl: Kriminelle versenden betrügerische E-Mails im Namen der Post!

Zahlreiche LeserInnen melden uns derzeit eine betrügerische E-Mail, die im Namen der Österreichischen Post verschickt wird. In diesem E-Mail werden Sie dazu aufgefordert, eine Ausweiskopie...

Zum Thema WhatsApp und Datenschutz

Auch wenn WhatsApp per Ende-zu-Ende-Verschlüsselung die Inhalte von Nachrichten schützt, können viele Infos der Nutzer gesammelt und weitergegeben werden. "Legale WhatsApp-Verwendung ist praktisch unmöglich." Dieser...

Callcenter im Kosovo ausgehoben

Schlag gegen internationale Betrüger-Bande - Callcenter im Kosovo ausgehoben! Wie im Rahmen eines Pressegesprächs am 24.05.2019 erörtert, betrieb die Ansbacher Kriminalpolizei unter Sachleitung der Ansbacher...
-WERBUNG-
-WERBUNG-
Datenschutz
Wir, Mimikama-Verein zur Aufklärung über Internetmissbrauch (Vereinssitz: Österreich), würden gerne mit externen Diensten personenbezogene Daten verarbeiten. Dies ist für die Nutzung der Website nicht notwendig, ermöglicht uns aber eine noch engere Interaktion mit Ihnen. Falls gewünscht, treffen Sie bitte eine Auswahl:
Datenschutz
Wir, Mimikama-Verein zur Aufklärung über Internetmissbrauch (Vereinssitz: Österreich), würden gerne mit externen Diensten personenbezogene Daten verarbeiten. Dies ist für die Nutzung der Website nicht notwendig, ermöglicht uns aber eine noch engere Interaktion mit Ihnen. Falls gewünscht, treffen Sie bitte eine Auswahl: