Die Verbreitung von beängstigend realistischen Deepfakes ist eines der perfiden Nebenprodukte des Aufstiegs der KI, und Opfer von Betrügereien auf ihrer Grundlage kosten Unternehmen bereits Millionen von Dollar - ganz zu schweigen von den Auswirkungen, die dies auf die nationale Sicherheit haben könnte. Heute kündigt ein Startup, das ein Werkzeugset für Regierungen und Unternehmen entwickelt hat, um Deepfakes und Identitätsdiebstähle in Audio, Video und Standbildern zu erkennen und zu stoppen, einige Finanzierungen mit beeindruckenden Kunden und Investoren an Bord an.
GetReal - mitbegründet von Dr. Hany Farid, einem der Pioniere bei der Erkennung von Deepfake-Medien - hat 17,5 Millionen US-Dollar Eigenkapital aufgebracht, das es für Forschung und Entwicklung, Einstellungen und Geschäftsentwicklung verwenden wird.
Zusammen mit der Finanzierung startet das Unternehmen seine forensische Plattform als Service, die eine Web-Benutzeroberfläche, eine API und Integrationen für die Ausführung von Medienanalysen als Service umfasst. Zu den Funktionen gehören ein Bedrohungsbelichtungs-Dashboard, ein "Inspect"-Tool, das speziell darauf abzielt, hochrangige Führungskräfte vor Fälschungen zu schützen, ein "Protect"-Tool zur Überprüfung von Medien und "Respond" - ein Service, bei dem menschliche Teams bei GetReal eine tiefere Analyse durchführen.
Forgepoint Capital, ein Spezialist für Cybersicherheit und KI, führt diese Serie A mit Ballistic Ventures, Evolution Equity und dem K2 Access Fund an.
Ballistic ist eine wichtige Firma in dieser Liste. GetReal wurde beim VC von 2022 bis es im Juni 2024 aus dem Stealth-Modus kam, inkubiert. Ballistic führte auch GetReals 7-Millionen-Dollar-Seed - eine Runde, die laut PitchBook auch Venrock, Artisanal, Qudit und Silver Buckshot umfasste.
Ballistic ist aus einem anderen Grund wichtig: Der Gründer des Unternehmens, Ted Schlein, ist der Vorsitzende und der andere Mitgründer von GetReal. Bevor er zu Ballistic kam, leitete Schlein Kleiner Perkins.
Hany als Service
GetReal befindet sich in der breiteren Welt der Cybersicherheit, speziell im schnelllebigen Bereich der Cyber-Forensik. Die Lücke im Markt, die das in San Mateo ansässige Startup angeht, ist der Mangel an Talent und Wissen in diesem Bereich.
"Wenn Sie denken, dass es bei der Cybersicherheit an Personal mangelt, machen Sie sich bereit für die Forensik", sagte Matt Moynahan, CEO von GetReal.
Moynahan ist selbst kein Gründer des Startups; er kam zu GetReal, als es noch im Stealth-Modus war, nach einer dreißigjährigen Karriere, in der er eine Reihe von großen Cybersicherheitsunternehmen wie Symantec, Arbor Networks, Veracode und Forcepoint leitete.
"Um ehrlich zu sein, ich glaube nicht, dass ich eine Bedrohung gesehen habe, die so allgegenwärtig ist", sagte er über die Fähigkeit, bösartige Deepfakes zu erstellen und anzuwenden.
Er beschrieb Viren im Vergleich dazu als eine "neue Bedrohung". "Was wir in den letzten 20 Jahren gesehen haben, ist, dass die Bedrohung auf den Endbenutzer übergegangen ist", sagte er. "Spaß"-Apps, die es den Menschen ermöglichen, Deepfakes zu erstellen, sind Teil des Problems, aber auch die Umgebung, in der wir heute arbeiten. "Menschen sind von Ziegel und Mörtel zu Unternehmen übergegangen, die jetzt fast vollständig digital und in der Cloud sind."
Phishing habe bewiesen, dass selbst sehr kluge Menschen leicht getäuscht werden können, und alles zusammen genommen sei ein kompliziertes und sehr schlechtes Zeichen dafür, wohin die Dinge gehen könnten.
GetReal ist die Idee von Farid, einem langjährigen, bekannten Akademiker (derzeit an der UC Berkeley), der als Pionier bei der Identifizierung von manipulierten digitalen Bildern gilt. Wahrscheinlich hat Farid die Risiken von Deepfakes schon verstanden, bevor der Begriff überhaupt aufkam.
Wie Farid TechCrunch erklärte, wendet er seine Erkenntnisse, die er hauptsächlich als Akademiker und Forscher gewonnen hat, schon seit Jahren mehr oder weniger informell als Dienst für Medienorganisationen, juristische Teams (nachdem digitale Bilder vor Gericht verwendbar wurden) und andere an. Im Jahr 2022 schloss er sich mit Schlein zusammen, um zu überlegen, wie man das in ein tatsächliches Geschäft umsetzen könnte, und diesen Untersuchungsprozess in Code umwandeln könnte.
"Niemand schaut auf diese Art und Weise in die Dinge, wie Hany es tut", sagte Moynahan. "Aber Hany kann nicht skalieren. Also haben wir im Grunde Hany genommen und versucht, einen 'Hany-Service' in der Cloud zu schaffen."
Interessanterweise bemerkt Farid, dass die von ihnen entwickelten Technologien davon abhängen, wie neue Apps funktionieren - es findet viel Reverse Engineering bei GetReal statt - kombiniert mit jahrzehntelangem Wissen, das sich kaum verändert hat.
"Es gibt Techniken, die wir vor 20 Jahren entwickelt haben und die heute noch funktionieren", sagte er. Er weigerte sich zu erklären, um welche es sich handelt. "Man muss den Leuten nicht alles erzählen, was wir tun, aber es ist kompliziert, es richtig hinzubekommen."
Der Signal-Effekt: Text steht noch aus
Die heute angekündigte Serie A umfasst auch einige wichtige strategische Unterstützer, darunter Cisco Investments, Capital One Ventures und In-Q-Tel, eine Investmentfirma, die eng mit der CIA verbunden ist.
Diese Liste von Strategen spiegelt die Arten von Unternehmen wider, die an GetReals Produkt interessiert sind oder es bereits begonnen haben zu übernehmen, sagte Alberto Yépez, Mitbegründer von Forgepoint, der die Investition leitete.
Während der Due Diligence fand Yépez heraus, dass stark regulierte Branchen - wie Finanzinstitute - bereits nach einem solchen Produkt gefragt haben und CISOs auf Anweisung der Vorstandsmitglieder Kontakt aufnehmen.
"Sie haben das Thema [der Deepfake-Identitätsdiebstähle] angesprochen, nachdem ihre CEOs in gefälschten Stimmeninterviews gebracht wurden", erklärte er - sie wurden selbst imitiert und von Imitationen getäuscht. Benannte Kunden sind unter anderem John Deere und Visa.
Was die Regierungsarbeit betrifft, sagte Yépez: "Sie haben auch einige Prioritäten in diesem Bereich."
Diese "Prioritäten" umfassen Geheimdienste und Regierungsbeamte, die aufgrund gefälschter Informationen von böswilligen Akteuren dazu gebracht werden, zu handeln oder nicht zu handeln.
Bisher haben sie sich jedoch noch nicht auf textbasierte Imitationen erstreckt.
Das kam erst diese Woche auf, als der Chefredakteur von The Atlantic - fälschlicherweise einer Signal-Gruppenchat hinzugefügt, der einen Militärangriff im Jemen plante - zunächst annahm, es handele sich um eine Imitations-Hoax. Schockierenderweise stellte sich heraus, dass dieser Chat sehr real und sehr stark im Widerspruch zu den nationalen Sicherheitsverfahren stand.
Farid sagte, dass Text derzeit nicht im Zuständigkeitsbereich von GetReal liegt. "Es ist ein anderes Biest", sagte er. Aber langfristig werde der Plan sein, im Laufe der Zeit den Fokus auf alle Arten von Deepfake- und Imitationsbedrohungen zu erweitern.
