Automatisiertes AI-FORCE Online Desinformations-System von Lockheed Martin

Lockheed Martin steht kurz vor der Fertigstellung eines automatisierten Programmprototyps, der in Zusammenarbeit mit der DARPA entwickelt wurde, um Nachrichten, Internetinhalte und Unterhaltungsmedien zu erkennen und zu analysieren, um Desinformationen zu identifizieren und als falsch zu kennzeichnen. Die Technologien zur Medienerstellung und -manipulation schreiten rasch voran, und rein statistische Erkennungsmethoden reichen bald nicht mehr aus, um gefälschte Medieninhalte zu identifizieren. Erkennungsverfahren, die sich auf statistische Fingerabdrücke stützen, können oft mit begrenzten zusätzlichen Ressourcen (Algorithmusentwicklung, Daten oder Rechenleistung) überlistet werden. Das Programm Semantic Forensics (SemaFor) von DARPA (Defense Advanced Research Projects Agency) zielt darauf ab, innovative semantische Technologien für die Analyse von Medien zu entwickeln. Zu diesen Technologien gehören semantische Erkennungsalgorithmen, die feststellen, ob multimodale Medieninhalte erzeugt oder manipuliert wurden. Zuordnungsalgorithmen schließen daraus, ob multimodale Medien von einer bestimmten Organisation oder Person stammen. Charakterisierungsalgorithmen geben Aufschluss darüber, ob multimodale Medien zu böswilligen Zwecken erstellt oder manipuliert wurden. Diese SemaFor-Technologien werden helfen, gegnerische Desinformationskampagnen zu erkennen, zuzuordnen und zu charakterisieren. Der erste umfasst einen Analysekatalog mit Open-Source-Ressourcen, die im Rahmen von SemaFor für die Nutzung durch Forscher und die Industrie entwickelt wurden. Die zweite umfasst ein offenes gemeinschaftliches Forschungsprojekt namens AI Forensics Open Research Challenge Evaluation (AI FORCE), das darauf abzielt, innovative und robuste Modelle für maschinelles Lernen (Deep Learning) zu entwickeln, die synthetische, von KI generierte Bilder genau erkennen können. Die DARPA ist als Investitionsabteilung des amerikanischen Militärs in unzähligen Projekten involviert, u.a. als Investmentpartner in Silicon Valley. Der ehemalige Google Chef arbeitet eng mit dieser Behörde hauptsächlich mit AI-Projekten zusammen. Siehe: The most important AI situational report by former Google CEO Eric Schmidt