Deepfakes und Desinformation: Demokratie unter Druck
Besuch bei Neuramancer AI Solutions
„Ludwig Hartmann als Klimakleber?“ – was absurd klingt, lässt sich mit generativer KI heute täuschend echt produzieren. Bilder, Videos und Tonaufnahmen können manipuliert werden, ohne dass Laien den Unterschied erkennen. Einmal in sozialen Netzwerken verbreitet, entfalten solche Fälschungen enorme Wirkung.
Beim Besuch der Neuramancer AI Solutions GmbH im Digitalen Gründerzentrum Stellwerk18 stand deshalb eine zentrale Frage im Mittelpunkt:
Wie schützen wir digitale Identitäten und den öffentlichen Diskurs vor gezielter Manipulation?
Das Start-up entwickelt Technologien zur Erkennung von Deepfakes. Ein entscheidender Baustein im Kampf gegen Desinformation. Denn KI-generierte Fälschungen gefährden nicht nur einzelne Personen. Sie untergraben das Vertrauen in Medien, demokratische Institutionen und letztlich ineinander.
Für die Politik ist klar:
Ohne klare Regeln für den Einsatz von Künstlicher Intelligenz, ohne Transparenzpflichten und ohne die Förderung vertrauenswürdiger Technologien wird es immer schwieriger, Wahrheit von Täuschung zu unterscheiden. Der Austausch mit innovativen Unternehmen zeigt, dass wir die technischen Lösungen haben – jetzt braucht es den politischen Rahmen, der Verantwortung einfordert und Gemeinwohl schützt.
Kinder schützen, bevor Schaden entsteht
Besuch beim Start-up HELMIT
Der Fall „White Tiger“, bei dem ein junger Mann Kinder im Netz systematisch manipuliert, gedemütigt und in den Suizid getrieben haben soll, macht auf erschütternde Weise deutlich: Kinder sind im digitalen Raum nach wie vor unzureichend geschützt.
Besonders problematisch ist, dass große Social-Media-Plattformen ihrer Verantwortung nicht gerecht werden. Schutzmechanismen werden reduziert, Algorithmen belohnen Aufmerksamkeit statt Sicherheit, und Eltern werden oft allein gelassen.
Beim Besuch des Start-ups HELMIT wurde deutlich, dass es auch anders geht. HELMIT hat eine technische Lösung entwickelt, die Kinder im Netz schützt, ohne ihre Privatsphäre zu verletzen. Das Programm erkennt problematische Inhalte lokal auf dem Gerät und warnt Eltern nur dann, wenn tatsächlich Gefahr besteht. Daten werden nicht weitergegeben, Chats nicht mitgelesen.
Das ist ein entscheidender Punkt: Kinderschutz und Datenschutz dürfen nicht gegeneinander ausgespielt werden. HELMIT zeigt, dass beides gemeinsam möglich ist.
Für die Politik folgt daraus eine klare Verantwortung: Der Schutz von Kindern im digitalen Raum ist keine freiwillige Leistung und kein individuelles Problem der Familien. Er ist eine staatliche Pflicht. Wir müssen innovative Lösungen fördern, Plattformen stärker in die Verantwortung nehmen und verbindliche Standards für Sicherheit im Netz setzen.
Fazit: Gesellschaftlicher Zusammenhalt braucht klare Regeln
Die Besuche bei Neuramancer AI Solutions und HELMIT machen deutlich: Technologische Innovation kann ein wichtiger Verbündeter für gesellschaftlichen Zusammenhalt sein, wenn sie verantwortungsvoll eingesetzt wird. Doch ohne politische Leitplanken bleibt ihr Potenzial ungenutzt oder wird missbraucht.
Gesellschaftlicher Zusammenhalt im digitalen Zeitalter heißt deshalb:
- Schutz vor Manipulation und Desinformation,
- Sicherheit für Kinder und Jugendliche,
- Verantwortung für Plattformen und
- Förderung von Innovationen, die dem Gemeinwohl dienen.
Politik darf hier nicht nur reagieren. Sie muss gestalten.
