Spam, Fake News und Betrugsmaschen sind auf Facebook ein gängiges Problem. Wie t3n berichtet, sollen jetzt KI-gestützte Bots eingesetzt werden, die schädliches Verhalten identifizieren und verhindern können. Auch der illegale Waffen- und Drogenhandel auf der Plattform soll so unterbunden werden.
Bot-Training auf Facebook-Simulation
Um die KI-Bots zu testen, haben die Facebook-Forscher eine sogenannte Web-Enabled-Simulation (WES) entwickelt. Dies sei laut Facebook “eine neue Methode zum Aufbau der ersten sehr realistischen, groß angelegten Simulationen komplexer sozialer Netzwerke“.
Die Bots trainieren demnach auf einer Parallelversion von Facebook. Sie bekommen simulierte Spamnachrichten vorgesetzt, die sie identifizieren müssen. Auf diese Art können die Forscher das Verhalten der Bots genau untersuchen und bei Bedarf optimieren.
In einer Pressemitteilung von Facebook heißt es:
„Persönlich und auch online handeln und interagieren Menschen auf eine Weise, die für herkömmliche Algorithmen manchmal schwierig zu modellieren oder zu replizieren ist. Das Verhalten der Menschen entwickelt sich und passt sich im Laufe der Zeit an und unterscheidet sich von einem zum anderen. Daher ist es schwierig, vorauszusehen, wie ein Einzelner oder eine ganze Gemeinschaft auf eine kleine Veränderung in ihrer Umgebung reagieren könnte.“
Die Bots werden darauf trainiert, über die gleiche Infrastruktur wie echte Facebook-User zu kommunizieren. Sie versenden Nachrichten an andere Bots, teilen Beiträge und verschicken Freundschaftsanfragen. Millionen von Bots interagieren so miteinander. Damit ihre Interaktionen so real wie möglich sind, basieren die Bots auf dem originalen Facebook-Code.
