In einer Zeit, in der man sich stark auf den technologischen Fortschritt verlässt, navigieren Studierende durch eine neue akademische Welt, in der KI-gesteuerte Chatbots und Aufsatzfabriken eine Rolle spielen. Bei der Untersuchung von Schülerbetrug decken wir den Anstieg betrügerischer Anzeigen auf beliebten Plattformen wie TikTok und Meta auf und bringen eine beunruhigende Verbindung zwischen Technologie und akademischer Unehrlichkeit ans Licht.
The best way to prevent cheating with AI in schools!
— Sinead Bovell (@sineadbovell) September 11, 2023
I was a little surprised to wake up to 2 million views on this TikTok in 24 hrs😳
But I think it speaks to the moment we
are in and the critical role education plays in our world. pic.twitter.com/h4bxGcDrWv
Die TikTok-Meta-Verbindung
Jüngste Untersuchungen haben einen beunruhigenden Trend aufgedeckt, bei dem dubiose Werbung für KI-gesteuerte Schülerbetrug-Dienste TikTok und Meta infiltriert hat, was ethische und rechtliche Bedenken aufwirft. Nach der Untersuchung von Fast Company wurde schnell gehandelt und einige dieser Anzeigen wurden entfernt.
Das Problem geht jedoch über die Werberichtlinien hinaus und führt in ein komplexes Netz aus KI-Ethik und akademischer Integrität.
KI Chatbots in der Bildung
Dieses Schuljahr markiert eine bedeutende Veränderung, da Schüler/innen leichteren Zugang zu KI-gesteuerten Chatbots wie ChatGPT erhalten. Während diese virtuellen Assistenten schnelle Ergebnisse liefern, ist die Technologie alles andere als unfehlbar.
Forscher haben ein weit verbreitetes Problem festgestellt, das als “Halluzinationen” in Chatbot-Antworten bekannt ist. Einige vermuten, dass bis zu 20 % oder jedes fünfte von GPT-4 generierte Zitat gefälscht sein könnte.
Der Aufstieg der Essay Mills
Die Unzuverlässigkeit der KI-Chatbots machen sich Essay Mills zunutze. Diese Dienste kombinieren KI und menschliche Arbeitskraft, um akademische Inhalte zu erstellen, die sich der Erkennung durch Anti-Betrugs-Software entziehen.
Eine aktuelle Analyse, die im Open-Access-Repository arXiv veröffentlicht wurde, zeigt, dass solche Mills auf den Plattformen TikTok und Meta aktiv um Kunden werben, obwohl sie in mehreren Ländern, darunter England, Wales, Australien und Neuseeland, illegal sind.
Rechtliche Implikationen
Laut Michael Veale, einem außerordentlichen Professor für Technologierecht am University College London, verstoßen Plattformen wie TikTok und Meta möglicherweise gegen das Gesetz, wenn sie für diese Dienste werben. Er entdeckte das Ausmaß dieses Problems, als er die Anzeigenarchive als Reaktion auf den Digital Services Act der EU untersuchte, der die Transparenz von Werbung auf großen Tech-Plattformen erhöhen soll.
Diese Anzeigen wurden von verschiedenen Unternehmen gekauft, die eine Reihe von Dienstleistungen zum Schreiben von Aufsätzen anbieten, wobei in der Studie 11 verschiedene KI-Dienste identifiziert wurden.
OpenAI is so dedicated to AI safety that as far as I can see, they don't even have a way to report misuse in contravention of their Usage Policy https://t.co/fkoGsJi40H
— Michael Veale @mikarv@someone.elses.computer (@mikarv) September 11, 2023
Reaktion der Plattform
TikTok hat darauf reagiert, indem es die markierten Videos entfernt und die zugehörigen Konten wegen Verstoßes gegen die Werberichtlinien gesperrt hat. Ein Sprecher von TikTok betonte in einer Stellungnahme gegenüber Fast Company, dass Anzeigen, die KI-Anwendungen wie ChatGPT bewerben, zwar in bestimmten Fällen erlaubt sind, irreführende oder unehrliche Werbung jedoch streng verboten ist.
Im Gegensatz dazu hat sich Meta nicht zu der Angelegenheit geäußert, und einige der gemeldeten Anzeigen sind auf ihrer Anzeigentransparenzplattform weiterhin sichtbar, wenn auch inaktiv.
Die Herausforderung der Durchsetzung
Veale unterstreicht die Herausforderung bei der Durchsetzung dieser vagen Gesetze und weist darauf hin, dass die Tech-Giganten entscheiden müssen, wie weit sie die Vorschriften als Reaktion auf diese potenziell illegalen Dienste durchsetzen wollen. Diese Unklarheit könnte weitreichende Folgen haben, die sich auch auf allgemeine KI-Systeme und Hilfsmittel auswirken könnten.
Ein wachsendes Problem
Spezialisten für akademische Integrität wie Thomas Lancaster vom Imperial College London erkennen das wachsende Problem der KI beim Schummeln an. Sowohl Studierende als auch Anbieter von Vertragsbetrug nutzen zunehmend KI für ihre Zwecke.
Je mehr sich die KI-Technologie durchsetzt, desto schwieriger wird es, ihren Einsatz zuverlässig zu erkennen.
Fazit
Da die KI unaufhaltsam in alle Bereiche unseres Lebens vordringt, wird der Kampf gegen Schülerbetrug und Unehrlichkeit immer schwieriger. Die Verbreitung von KI-gestützten Diensten auf Plattformen wie TikTok und Meta unterstreicht die Notwendigkeit rechtlicher Klarheit und einer verantwortungsvollen Plattformführung.
Während sich Schüler/innen mit der Verlockung von KI-gestützten Abkürzungen auseinandersetzen, stellt sich die Frage: Können wir dieses Problem in der sich entwickelnden Technologie- und Hochschullandschaft wirksam angehen?
