Ich habe vor einem Jahr am Weihnachtsessen eine kleine Umfrage gemacht und wollte da wissen „was glaubt Ihr ist die Wahrheit“. Ich hatte 2 Gruppe von Leute am Tisch die einen waren +40 und die andere waren -40. Die +40 – 200 Jahre alten Menschen am Tisch sagten mir ganz direkt, dass alles was in der Zeitung steht oder im TV / Radio verbreitet wird, die Wahrheit ist und nichts als die Wahrheit. „Immerhin würden Journalisten dafür bezahlt, dass sie nur informieren und nicht manipulieren“. Als ich die Gruppe von 0-40 das Gleiche fragte, da haben sie nur gelacht und gesagt, heute sei alles nur gelogen und manipuliert.

Ich sehs ja selbst genauso, ich weiss wie einfach es heute ist Bilder zu manipulieren und Leute so aufzustacheln dass ganze Kriege angefangen werden können. Journalisten sind heute keine Leute mehr die kontrollieren und informieren, sondern es sind Leute die pro Klick und View bezahlt werden (Der Tagesanzeiger in der Schweiz hat, vor ein paar Jahren, ganz offiziell Click / Views als Lohnrelevant erklärt). Und darum ist die Wahrheit nicht mehr gut genug, sondern es kommen nur noch Skandale und aufgebauschtes – je mehr Klicks desto besser.

Ich selbst gehe heute also davon aus, dass Stimmen und Bilder nur noch manipuliert sind – aber bisher konnte ich davon ausgehen, dass Videos noch nicht fälschbar sind – sondern man kann sie nur so zusammenschneiden dass sie die Hälfte weglassen und so einen anderen Zusammenhang herstellen.

Ich habe dann vor ein paar Wochen mich ein wenig mit Videos und Webcam Manipulationen beschäftigt (Du wirst überwacht, gefilmt und abgehört – immer überall jederzeit! Jeder kann euch überwachen!). Beim schreiben dieses Blogbeitrags habe ich dann gemerkt, dass es sehr mächtige Open Source Programme da draussen, online erhältlich sind und so bin ich aufs Thema Machine Learning gestossen wie auch auf Deepfake.

Wir alle erinnern uns an den Deepfake von der Jennifer Lawrence als Steve Buscemi. Das war oder ist lustig. So es auch lustig ist, wenn ein Schauspieler den US Präsident Trump nachäfft.

Ich bin jetzt immer öfters mit diesem Thema konfrontiert worden und habe gesehen, dass es immer mehr Dienste gibt, wo man sein Foto einreichen kann und daraus ein Deepfake entsteht. Ich persönlich mache bei solchen Diensten nicht mit – auch wenn ichs mir wirklich hart überlegt habe – aber wer meine Daten möchte, muss sie schon selbst sammeln 😛 Immerhin könnten solche Daten nicht nur von NSA und CIA gesammelt werden sondern auch von der Mafia und anderen Verbrecherorganisationen.

Es ist schon erschreckend wenn man sieht wie einfach das ist – hier ein paar Beispiele.

Wir hatten am Wochenende gerade in der Schweiz wieder Wahlen und haben unsere neuen gekauften Politiker ausgewählt, die in den nächsten 4 Jahren alles tun dürfen uns neu auszupressen. Seit Jahren sag ich ja, dass man Politiker nicht trauen sollte / kann, sondern sie alle einen Kopf kürzer machen sollte, denn wenn ein Politiker den Mund aufmacht, dann hat er bereits gelogen 🙂 Aber das ist bekannt.

Was ist aber wenn jetzt herauskommt, dass die Reden die diese Politiker gehalten haben, manipuliert waren? Immerhin kann man heute keinem Journalist mehr trauen und wenn dann selbst andere Videos manipuliert sein könnten, wohin führt das?

Deepfake ist ja eigentlich nichts neues, da werden tote Schauspieler zum leben erweckt oder verjüngt – sahen wir alle schon im Kino. Aber das waren teure Produkte die nicht jeder sich leisten kann. Heute aber sind diese Bibliotheken frei erhältlich.

Und ich rede jetzt nicht von so billigen Spässchen wie hier:

Da stellt sich aber die Frage was für eine Gefahr das für uns bedeutet. Es gibt ja bereits Berichte, dass Firmen mit so DeepFake ihrer CEO erpresst werden

Nun haben sich Google Twitter Facebook und Microsoft haben nun gemeinsame Sache gemacht:

Ein ziemlich schrecklicher Gedanke, ein Video taucht auf wo der CEO öffentlich sagt dass er auf Grüne Alienkinder steht und zack ist der Börsenkurs bei 0. Oder es taucht ein Video auf, wo ein verheirateter CEO auf einmal mit nem Schwulen und ner anderen Frau rummacht – zack ist der Börsenkurs bei 0. Oder was ist wenn Trump direkt sagt, dass er der CIA den Auftrag gab, seine Feindin die Clinton zu ermorden? Da wären Strassenschlachten im Polizeistaat Amerika sicher mit vielen Toten vorprogrammiert…

Ihr seht wir leben also in einer Welt die immer komplizierter wird. Was denkt ihr? Ist sowas eine Gefahr für die Menschheit oder eher nur eine Spielphase und harmlos? Ja heute ist es noch sehr einfach, aber was ist in 5-10 Jahre?