Fraunhofer-Forschende haben einen Demonstrator entwickelt, der Deepfakes in Videokonferenzen bereits während des Gesprächs erkennen soll. Das System analysiert Bild und Ton parallel und kann die Auswertung lokal auf einem leistungsfähigen Rechner vornehmen. Noch ist die Technik nicht marktreif: Unabhängige Leistungsdaten, Praxistests und konkrete Integrationen in Konferenzplattformen stehen aus.
Darmstadt/Heilbronn, 4. August 2026. Ein vertrautes Gesicht erscheint auf dem Bildschirm, die Stimme klingt überzeugend, die Forderung duldet angeblich keinen Aufschub. Was wie eine gewöhnliche Videokonferenz mit einem Vorgesetzten wirkt, kann inzwischen vollständig oder teilweise manipuliert sein. Forschende des Fraunhofer-Instituts für Sichere Informationstechnologie SIT arbeiten deshalb an einer Deepfake-Erkennung für Videokonferenzen, die verdächtige Bild- und Tonsignale noch während des laufenden Gesprächs sichtbar machen soll.
Der entwickelte Demonstrator untersucht beide Medienströme parallel. Er sucht im Videobild nach Spuren künstlicher Veränderungen und prüft zugleich, ob die Stimme Merkmale einer synthetischen oder manipulierten Aufnahme aufweist. Das Ergebnis erscheint nicht als endgültiges Urteil, sondern als Wahrscheinlichkeitsanzeige. Sie soll Gesprächsteilnehmer warnen, wenn sich Hinweise auf einen Deepfake verdichten.
Nach Angaben der Fraunhofer-Gesellschaft befindet sich das System noch in der Proof-of-Concept-Phase. Damit ist belegt, dass der technische Ansatz grundsätzlich umsetzbar ist. Ein fertiges Sicherheitsprodukt, das Unternehmen bereits bestellen oder unmittelbar in ihre Konferenzsoftware einbauen könnten, gibt es bislang nicht.
Deepfake-Erkennung soll während des Videocalls arbeiten
Viele forensische Verfahren prüfen Aufnahmen erst, nachdem sie erstellt oder veröffentlicht wurden. Der Fraunhofer-Ansatz setzt früher an. Die Deepfake-Erkennung soll während der Videokonferenz mitlaufen und auf verdächtige Signale reagieren, bevor Teilnehmer sensible Daten preisgeben oder finanzielle Entscheidungen treffen.
Das System übernimmt dabei keine verbindliche Identitätsprüfung. Es kann weder zweifelsfrei bestätigen, dass eine zugeschaltete Person echt ist, noch automatisch eine betrügerische Handlung verhindern. Seine Aufgabe ist enger gefasst: Es soll Auffälligkeiten sichtbar machen und damit einen Anlass für zusätzliche Kontrollen liefern.
An der Entwicklung beteiligt sind das Fraunhofer SIT in Darmstadt und das Fraunhofer Heilbronn Forschungs- und Innovationszentrum für Cybersicherheit. Das Team arbeitet unter der Leitung des IT-Forensikers Martin Steinebach. Die Forschung ist in ein Projekt des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE eingebettet.
Bild und Stimme werden gemeinsam geprüft
Die Kombination von Audio- und Videoanalyse ist für die Deepfake-Erkennung in Videokonferenzen entscheidend. Angriffe müssen nicht zwingend beide Ebenen betreffen. In manchen Fällen wird lediglich eine Stimme künstlich erzeugt, während ein echtes oder aufgezeichnetes Video abgespielt wird. In anderen Fällen ist das Gesicht manipuliert, der Ton jedoch unverändert.
Der Demonstrator soll solche Signale gleichzeitig auswerten. Wie die Ergebnisse technisch gewichtet und zusammengeführt werden, ist öffentlich bislang nicht im Detail beschrieben. Ebenso offen bleibt, wie das System reagiert, wenn Bild- und Tonanalyse zu unterschiedlichen Einschätzungen gelangen.
Die Anzeige einer Wahrscheinlichkeit trägt dieser Unsicherheit Rechnung. Ein Warnwert ist kein Echtheitsbeweis. Er muss von den Beteiligten eingeordnet werden – etwa anhand des Gesprächsverlaufs, der verlangten Handlung und weiterer Sicherheitsmerkmale.
Lokale Analyse soll sensible Gesprächsdaten schützen
Die Berechnungen sollen nach Angaben von Fraunhofer direkt auf einem geeigneten Rechner möglich sein. Erforderlich sei eine moderne Grafikkarte mit rund zwölf Gigabyte Grafikspeicher. Bild- und Tondaten müssten dadurch nicht zwingend an einen externen Analysedienst übertragen werden.
Gerade bei vertraulichen Besprechungen kann das von Bedeutung sein. In Videokonferenzen werden Geschäftsstrategien, Personaldaten, Vertragsinhalte oder Zahlungsfreigaben besprochen. Eine lokale Deepfake-Erkennung begrenzt die Weitergabe solcher Daten und könnte innerhalb einer geschützten Unternehmensumgebung betrieben werden.
Denkbar sind nach Darstellung der Forschenden mehrere Formen: ein separates Zusatzprogramm, eine fest integrierte Funktion innerhalb einer Videokonferenzlösung oder ein zentraler Dienst im internen Firmennetz. Konkrete Partnerschaften mit Plattformanbietern wurden bislang nicht bekannt gegeben. Auch eine öffentliche Testversion oder ein Termin für die Markteinführung stehen nicht fest.
Kompression erschwert die Erkennung manipulierter Inhalte
Videokonferenzen liefern selten unverändertes Ausgangsmaterial. Die Software komprimiert Bild und Ton, passt die Qualität an schwankende Internetverbindungen an und bearbeitet Gesichter häufig mit automatischen Filtern. Hintergründe werden weichgezeichnet, Konturen geglättet, Störgeräusche unterdrückt.
Für die Deepfake-Erkennung ist das ein Problem. Manipulationen hinterlassen oft feine technische Spuren. Werden diese durch Kompression oder Filter abgeschwächt, kann ein Detektor sie übersehen. Gleichzeitig darf er gewöhnliche Übertragungsfehler nicht als Betrugsversuch einstufen.
Schlechte Beleuchtung, Bildrauschen, ruckelnde Bewegungen oder kurze Tonaussetzer gehören zum Alltag eines Videocalls. Ein Warnsystem, das bei jeder solchen Störung anschlägt, wäre für den praktischen Einsatz kaum geeignet. Die entscheidende Frage lautet deshalb nicht nur, ob ein Deepfake erkannt wird, sondern auch, wie häufig das System fälschlicherweise Alarm auslöst.
Trainingsdaten werden an Videokonferenzen angepasst
Die Forschenden trainieren ihre Verfahren mit echten sowie manipulierten Audio- und Videoaufnahmen. Diese Daten werden zusätzlich mit typischen Merkmalen von Videokonferenzen versehen. Dazu gehören unter anderem Kompression, Unschärfe und wechselnde Übertragungsqualität.
Für die Analyse synthetischer Stimmen wurden laut Fraunhofer öffentliche Datensätze mit rund 19.000 echten und etwa 160.000 manipulierten Audioaufnahmen eingesetzt. Die große Zahl künstlich erzeugter Beispiele soll dem System helfen, wiederkehrende Muster gefälschter Stimmen zu erkennen.
Ob diese Trainingsbasis auch gegen neue, bislang unbekannte Deepfake-Verfahren ausreicht, ist nicht belegt. Generative Systeme entwickeln sich rasch weiter. Erkennungsverfahren müssen deshalb fortlaufend angepasst und mit aktuellen Manipulationstechniken getestet werden.
Trefferquote und Fehlalarme sind noch unbekannt
Zur praktischen Leistungsfähigkeit des Demonstrators liegen bisher keine öffentlich zugänglichen Detailwerte vor. Fraunhofer nennt weder eine konkrete Trefferquote noch die Zahl falsch positiver Warnungen. Auch dazu, wie viele manipulierte Inhalte das System übersieht, gibt es bislang keine veröffentlichten Angaben.
Unklar ist außerdem, wie lange die Analyse benötigt, bis ein belastbarer Hinweis erscheint. Für sicherheitskritische Gespräche wäre eine Warnung nur dann hilfreich, wenn sie früh genug erfolgt – also bevor eine Zahlung bestätigt, ein Passwort genannt oder ein vertrauliches Dokument versendet wird.
Weitere offene Fragen betreffen unterschiedliche Sprachen und Akzente, schlechte Mikrofone, geringe Auflösungen sowie Gespräche mit mehreren Teilnehmern. Auch die Erkennung vollständig künstlicher Personen dürfte andere Anforderungen stellen als die Manipulation eines echten Gesichts.
Solche Punkte sollen in künftigen Praxistests untersucht werden. Die Forschenden streben Kooperationen mit Unternehmen und Anbietern von Videokonferenzlösungen an. Erst unter realen Bedingungen wird sich zeigen, wie stabil die Deepfake-Erkennung arbeitet und ob sie sich in bestehende Arbeitsabläufe einfügt.
Manipulierte Videokonferenzen sind ein reales Betrugsrisiko
Der Forschungsansatz zielt auf eine Angriffsmethode, die längst nicht mehr theoretisch ist. Mit künstlich erzeugten Stimmen und Gesichtern können Kriminelle vertraute Personen imitieren. Besonders gefährlich sind Situationen, in denen vermeintliche Führungskräfte ungewöhnliche Zahlungen, Zugangsdaten oder streng vertrauliche Unterlagen verlangen.
Wie groß der mögliche Schaden ist, zeigte 2024 ein Fall in Hongkong. Ein Mitarbeiter des Ingenieurunternehmens Arup nahm an einer manipulierten Videokonferenz teil, in der vermeintliche Kollegen und Führungskräfte auftraten. Danach wurden umgerechnet rund 25 Millionen US-Dollar überwiesen.
Der Fall verdeutlichte, dass sich Angreifer nicht mehr auf eine einzelne gefälschte Stimme oder ein manipuliertes Porträt beschränken müssen. Sie können eine komplette Gesprächssituation inszenieren und dabei mehrere scheinbar bekannte Personen auftreten lassen.
Technik ersetzt keine sicheren Freigabeprozesse
Eine Deepfake-Erkennung kann in solchen Situationen eine zusätzliche Barriere schaffen. Sie sollte jedoch nicht allein darüber entscheiden, ob eine Person vertrauenswürdig ist oder eine Forderung berechtigt erscheint. Auch ein unauffälliges Analyseergebnis schließt eine Manipulation nicht sicher aus.
Fraunhofer empfiehlt deshalb, ungewöhnliche Zahlungs- oder Datenanfragen über einen zweiten Kommunikationsweg zu prüfen. Ein Rückruf über eine bereits bekannte Telefonnummer ist belastbarer als eine Kontaktmöglichkeit, die erst während des verdächtigen Gesprächs genannt wird.
Unternehmen können das Risiko außerdem durch klare Freigaberegeln begrenzen. Hohe Überweisungen, Änderungen von Kontodaten oder die Herausgabe sensibler Informationen sollten nicht allein aufgrund einer Videokonferenz erfolgen. Die technische Erkennung ergänzt solche Verfahren, sie ersetzt sie nicht.
Auch der rechtliche Rahmen ist noch offen
Die fortlaufende Analyse von Bild und Ton berührt Datenschutz und Arbeitsrecht. Unternehmen müssten klären, auf welcher Rechtsgrundlage ein solches System eingesetzt wird, wie Beschäftigte und externe Gesprächspartner informiert werden und ob Analysewerte gespeichert werden.
Die lokale Verarbeitung kann verhindern, dass vertrauliche Gesprächsdaten an externe Server gelangen. Daraus folgt jedoch nicht automatisch, dass jeder Einsatz rechtlich zulässig wäre. Entscheidend sind unter anderem Zweck, Transparenz, Speicherdauer und der Kreis der Personen, die Zugriff auf die Ergebnisse erhalten.
Auch die Bedingungen der jeweiligen Videokonferenzplattform können eine Rolle spielen. Fraunhofer zählt diese organisatorischen und rechtlichen Fragen ausdrücklich zu den Punkten, die vor einer breiteren Nutzung geklärt werden müssen.
Der Prototyp warnt – entscheiden müssen weiterhin Menschen
Die Deepfake-Erkennung in Videokonferenzen könnte zu einem festen Bestandteil digitaler Sicherheitsarchitekturen werden. Der Fraunhofer-Demonstrator verbindet dafür zwei wesentliche Ansätze: die gleichzeitige Prüfung von Stimme und Bild sowie eine Analyse direkt während des Gesprächs.
Bis zum praktischen Einsatz ist der Weg dennoch weit. Es fehlen unabhängige Testergebnisse, belastbare Angaben zu Fehlalarmen und konkrete Integrationen in verbreitete Konferenzsysteme. Der Prototyp kann ein Warnsignal liefern. Ob eine Person tatsächlich echt ist und eine ungewöhnliche Forderung berechtigt, muss weiterhin durch sichere Prozesse und menschliche Prüfung geklärt werden.
