Vom Camping bis zur Käsepizza erobert „Algosbeek“ die sozialen Medien

Vom Camping bis zur Käsepizza erobert „Algosbeek“ die sozialen Medien

Amerikaner verwenden zunehmend Codes, die als „Algospeak“ bekannt sind, um der Erkennung durch Inhaltsänderungstechnologie zu entgehen, insbesondere wenn sie über Dinge posten, die umstritten sind oder gegen die Regeln der Plattform verstoßen könnten.


ichWenn Sie Leute sehen, die in den sozialen Medien über „Camping“ posten, sprechen sie wahrscheinlich nicht darüber, wie man ein Zelt aufstellt oder welche Nationalparks man besuchen sollte. Der Begriff wurde kürzlich zum „Algospeak“ für etwas völlig anderes: die Diskussion von Fragen im Zusammenhang mit Abtreibungen im Gefolge des Sturzes von Roe v. Wade durch den Obersten Gerichtshof.

Social-Media-Nutzer verwenden zunehmend Codewörter, Emojis und absichtliche Tippfehler – den sogenannten „Algospeak“ –, um eine Erkennung zu vermeiden, indem sie Apps mit künstlicher Intelligenz modifizieren, wenn sie sensibel posten oder möglicherweise gegen ihre Regeln verstoßen. Siobhan Hanna, die KI-Datenlösungen für Telus International beaufsichtigt, ein kanadisches Unternehmen, das fast allen großen Social-Media-Plattformen, einschließlich TikTok, menschliche Inhaltsmoderation und KI-Dienste bereitgestellt hat, sagte, das Wort „Camping“ sei nur ein Ausdruck, der von dieser Methode übernommen wurde. „Es gab Bedenken, dass die Algorithmen Hinweise auf die Abtreibung aufgreifen könnten“, sagte Hanna.

Laut neuen Daten von Telus International aus einer Umfrage unter 1.000 Personen in den Vereinigten Staaten im letzten Monat gibt mehr als die Hälfte der Amerikaner an, dass sie einen leichten Anstieg des Algospeaks im Zuge polarisierender politischer, kultureller oder globaler Ereignisse erlebt haben. In den sozialen Medien und beim Spielen gibt fast ein Drittel der Amerikaner an, „Emojis oder alternative Ausdrücke verwendet zu haben, um Tabubegriffe zu umgehen“, ​​wie solche, die rassistische, sexuelle oder Selbstverletzung implizieren, so die Daten. Hanna erklärte, dass Algospeak, das normalerweise verwendet wird, um Regeln für Hassreden wie Belästigung oder Mobbing zu vermeiden, eng von Richtlinien zu Gewalt und Ausbeutung gefolgt wird.

Seit dem „pr0n“ und dem Auberginen-Emoji haben wir einen langen Weg zurückgelegt. Technologieunternehmen sowie die externen Auftragnehmer, die ihnen bei Inhaltsrichtlinien helfen, stehen aufgrund dieser sich entwickelnden Lösungen vor ständig wechselnden Herausforderungen. Obwohl maschinelles Lernen in der Lage sein kann, offene Verstöße wie Hassreden zu erkennen, ist KI oft nicht in der Lage, zwischen den Zeilen zu unterscheiden, wenn es um Phrasen oder Euphemismen geht, die in einem Kontext unschuldig erscheinen, aber eine tiefere Bedeutung haben.


Fast ein Drittel der Amerikaner in den sozialen Medien geben an, „Emojis oder alternative Ausdrücke verwendet zu haben, um die verbotenen Begriffe zu umgehen“.


Beispielsweise wurde der Begriff „Käsepizza“ häufig von Konten verwendet, die explizite Bilder von teilenden Kindern anbieten. Trotz eines verwandten viralen Trends, bei dem viele Menschen auf TikTok über ihre Vorliebe für Mais singen, wurden Mais-Emojis häufig verwendet, um zu diskutieren oder zu versuchen, Menschen in Richtung Pornos zu lenken. vorbei an Kleine und mittlere Unternehmen Berichte haben die doppelte Bedeutung weltlicher Sätze wie „berühre die Decke“ aufgedeckt, die verwendet werden, um junge Mädchen zu überreden, ihren Anhängern zu zeigen und ihre Körper zu zeigen.

„Einer der Bereiche, die uns allen am Herzen liegen, ist die Ausbeutung von Kindern und Menschen“, sagte Hanna. Kleine und mittlere Unternehmen. Es ist “eine der sich am schnellsten entwickelnden Regionen des Gosbeek”.

Aber Hanna sagte, es sei nicht Sache von Telus International, ob einige Algospeak-Begriffe gelöscht oder herabgestuft werden sollten. Es sind die Plattformen, die „die Richtlinien festlegen und Entscheidungen darüber treffen, wo es ein Problem geben könnte“, sagte sie.

„Normalerweise treffen wir keine drastischen inhaltlichen Entscheidungen“, sagte sie. Kleine und mittlere Unternehmen. “Sie werden wirklich von unseren Kunden angetrieben, denen diese Plattformen gehören. Wir handeln wirklich in ihrem Namen.”

Zum Beispiel drückt Telus International nicht Algospeak über wichtige politische oder soziale Momente, sagte Hanna und führte „Camping“ als ein Beispiel an. Das Unternehmen lehnte es jedoch ab, offenzulegen, ob einige der Bedingungen von Algospeak von Kunden blockiert wurden.

Laut Hanna tauchten innerhalb von 24 Stunden nach dem Urteil des Obersten Gerichtshofs Anzeichen für die „Lager“ auf und nahmen in den nächsten zwei Wochen zu. Sie erklärte, dass „Camping“ als Algosbeek-Phänomen verblasste, „weil es so allgegenwärtig wurde, dass es nicht mehr wirklich ein Codewort war“. So funktioniert Algospeak normalerweise: „Du wirst aufsteigen, du wirst viel Aufmerksamkeit bekommen, du wirst anfangen, in eine Art Meme zu gehen, und [it] Er wird irgendwie sterben.“

Hanna sagte, dass in den sozialen Medien auch neue Formen von Algospeak über den Krieg zwischen der Ukraine und Russland aufgetaucht seien, mit Plakaten, die beispielsweise den Begriff „nicht lebendig“ verwenden – anstatt „getötet“ und „Soldaten“ im selben Satz zu erwähnen – um dies zu vermeiden Erkennung von Intelligenz künstlich. Sie fügte hinzu, dass Algospeak auf Gaming-Plattformen oft in Benutzernamen oder „Game Tags“ als politische Statements enthalten ist. Ein Beispiel: Zahlenangaben zu „6/4“, dem Jahrestag des Massakers auf dem Platz des Himmlischen Friedens 1989 in Peking. „Die Kommunikation über dieses historische Ereignis wird in China kontrolliert“, sagte Hanna, und obwohl dies „etwas zweideutig erscheinen mag, kann dies in diesen stark vernetzten Gemeinschaften tatsächlich eine heiße politische Aussage sein, die Sie im Benutzernamen machen sollten.“ .

Telus International erwartet auch eine Zunahme von Online-Algospeak-Gesprächen über die Zwischenwahlen.


„Ein Bereich, der uns alle am Herzen liegt, ist die Ausbeutung von Kindern und die Ausbeutung von Menschen. [It’s] Eine der sich am schnellsten entwickelnden Regionen des Gosbeek.

Siobhan Hanna, Telus International

Andere Möglichkeiten, um der Überwachung durch KI zu entgehen, sind das Rechtschreiben von Wörtern oder das Ersetzen von Buchstaben durch Symbole und Zahlen, wie z. B. „$“ für „S“ und die Zahl Null für den Buchstaben „O“. Viele Leute, die beispielsweise auf TikTok über Sex sprechen, bezeichnen es stattdessen als „Seggs“ oder „Seggsual“.

Hanna sagte, die Algospeak-Emoji würden „sehr häufig verwendet, um etwas darzustellen, das ursprünglich nicht als solches gedacht war“. Dies kann in manchen Situationen passieren, obwohl es nicht immer schädlich ist. Zum Beispiel ist das Hummer-Emoji in Großbritannien als metaphorische Reaktion auf den Tod von Queen Elizabeth auf dem Vormarsch. Aber in anderen Fällen ist es schädlicher: In einigen Zusammenhängen wurden Ninja-Emojis durch abfällige Begriffe und Hassreden über die schwarze Gemeinschaft ersetzt, so Hanna.

Es gibt eine ganze Reihe von Gesetzen, die soziale Medien regulieren, und die Änderung von Inhalten ist eines der umstrittensten technologiepolitischen Themen im Regierungsrat. Gesetze wie der Algorithmic Accountability Act wurden aufgrund von Parteistreitigkeiten blockiert. Dieser Gesetzentwurf soll sicherstellen, dass künstliche Intelligenz (z. B. Inhaltsmoderation) ethisch und transparent verwaltet werden kann. Social-Media-Unternehmen und Moderationsunternehmen außerhalb haben trotz fehlender Regulierung alles getan. Experten haben Bedenken hinsichtlich der Rechenschaftspflicht dieser Unternehmen geäußert. zur Prüfung gerufendiese Beziehungen.

Telus International bietet von Menschen unterstützte Inhaltsmoderation und künstliche Intelligenz, und mehr als die Hälfte der Umfrageteilnehmer bestätigte, dass es „sehr wichtig“ sei, Menschen im Mix zu haben.

Ein Teilnehmer schrieb: „Künstliche Intelligenz kann möglicherweise nicht die Dinge aufnehmen, die Menschen können.“

Ein anderer: „Menschen sind gut darin, Filter zu vermeiden.“

Forbes: Mehr

Forbes: Lesen Sie mehrHier sind 25 der besten Websites für den Ruhestand im Jahr 2022Forbes: MehrWie reich ist König Charles III? Entdecken Sie den erstaunlichen Reichtum des neuen MonarchenForbes: MehrEs gibt mehr als nur Inflation. Die Vogelgrippe lässt die Thanksgiving-Preise in der Türkei in die Höhe schnellen

Leave a Reply

Your email address will not be published.