OpenAI hat vergangene Woche gezeigt, wie Voice Cloning funktioniert: Mit nur 15 Sekunden deiner Stimme lässt sich daraus eine täuschend echte KI-Stimme erzeugen.
Das ist schon krass!
Wie immer gilt hier Dual-Use und die damit einhergehenden Vorteile und Risiken:
Auf der einen Seite kann ich demnächst meinen Kids alle Bücher 📚 “von mir” vorlesen lassen und auf der anderen Seite steht jedem Enkeltrick-Betrüger die Tür noch weiter offen.
Ich erinnere mich an den Fall, wo man dem CFO weißgemacht hat, dass er doch bitte 20 Mio überweisen soll – und das alles aus einem Teams-Call heraus. Mit Fake-Audio und -Video.
Mehr Infos gibt es hier:
https://openai.com/blog/navigating-the-challenges-and-opportunities-of-synthetic-voices
Voice Cloning stellt uns vor neue ethische Herausforderungen. Die Technologie entwickelt sich rasant weiter und wird immer zugänglicher. Unternehmen müssen jetzt Strategien entwickeln, um sich vor Deepfake-Angriffen zu schützen. Gleichzeitig eröffnet Voice Cloning faszinierende Möglichkeiten in Bereichen wie Barrierefreiheit und Unterhaltung.
Mehr zu den Risiken von Deepfakes auf Europol.
Weiterlesen: Warum die Balance zwischen Sicherheit und Geschwindigkeit so wichtig ist. Und wie mutige Entscheidungen den Unterschied machen.
