{"id":11696,"date":"2024-10-07T19:00:20","date_gmt":"2024-10-07T18:00:20","guid":{"rendered":"https:\/\/brannon.eu\/ki-eine-helfende-hand-fur-unternehmen-bei-der-content-moderation\/"},"modified":"2024-10-07T19:00:20","modified_gmt":"2024-10-07T18:00:20","slug":"ki-eine-helfende-hand-fur-unternehmen-bei-der-content-moderation","status":"publish","type":"post","link":"https:\/\/brannon.eu\/de\/ki-eine-helfende-hand-fur-unternehmen-bei-der-content-moderation\/","title":{"rendered":"KI, eine helfende Hand f\u00fcr Unternehmen bei der Content-Moderation"},"content":{"rendered":"
\n
\n

Im heutigen digitalen Zeitalter werden t\u00e4glich Milliarden von Inhalten auf Online-Plattformen und Websites hochgeladen.<\/h2>\n

Die Moder\u00adation dieses Materials war daher noch nie so kritisch und heraus\u00adfordernd. W\u00e4hrend die meisten dieser hochge\u00adladenen Inhalte positiv sein m\u00f6gen, sehen wir auch eine wachsende Menge an sch\u00e4dlichem und illegalem Material \u2013 von Gewalt und Selbstver\u00adletzung bis hin zu extrem\u00adistischer Rhetorik, sexuell eindeutigen Bildern und Material zum sexuellen Missbrauch von Kindern (CSAM).<\/p>\n

Der Umgang mit dieser Flut an sch\u00e4dlichen Inhalten ist mittler\u00adweile eine entschei\u00addende Heraus\u00adforderung f\u00fcr Unternehmen. Wer dazu nicht in der Lage (oder nicht willens) ist, muss mit erheblichen Strafen rechnen und setzt Kinder einem gro\u00dfen Risiko aus.<\/p>\n

Das haben unsere eigenen Unter\u00adsuchungen ergeben \u00dcber ein Drittel (38 %) der Eltern wurden von ihren Kindern angesprochen, nachdem sie sch\u00e4dliche oder illegale Inhalte gesehen hatten<\/a>Viele greifen innerhalb von nur zehn Minuten, nachdem sie online gegangen sind, auf Materi\u00adalien zu, die so anschaulich und sch\u00e4dlich sind wie CSAM.<\/p>\n

Daher ist es an der Zeit, st\u00e4rkere Anstren\u00adgungen zur Inhaltsmod\u00ader\u00adation zu unternehmen und dass Unternehmen \u00fcber tradi\u00adtionelle manuelle Moder\u00ada\u00adtions\u00admethoden hinaus\u00adgehen, die unprak\u00adtisch und nicht skalierbar geworden sind. Stattdessen sollten sie die komple\u00admen\u00adt\u00e4ren F\u00e4higkeiten der KI nutzen, die die Landschaft der Inhaltsmod\u00ader\u00adation durch Automa\u00adtisierung, verbesserte Genauigkeit und Skalier\u00adbarkeit ver\u00e4ndern.<\/p>\n

Allerdings sollten Unternehmen, die an der Nutzung von KI inter\u00adessiert sind, wie bei jeder neuen Innovation sicher\u00adstellen, dass sie die Technologie so imple\u00admen\u00adtieren, dass die Einhaltung geset\u00adzlicher Vorschriften gew\u00e4hrleistet ist. Die Entschei\u00addungen, die Unternehmen heute treffen, werden einen massiven Einfluss auf ihre k\u00fcnftigen Abl\u00e4ufe haben.\n<\/p>\n

<\/div>\n
<\/div>\n

Die helfende Hand der KI<\/h3>\n

KI hat die Content-Moder\u00ada\u00adtions\u00adland\u00adschaft drastisch ver\u00e4ndert, indem sie das automa\u00adtisierte Scannen von Bildern, vorab aufgeze\u00adich\u00adneten Videos, Live-Streams und anderen Arten von Inhalten im laufenden Betrieb nutzt. Es kann Probleme wie Aktiv\u00adit\u00e4ten von Minder\u00adj\u00e4hrigen in der Erwach\u00adse\u00adne\u00adnun\u00adter\u00adhaltung, Nacktheit, sexuelle Aktiv\u00adit\u00e4ten, extreme Gewalt, Selbstver\u00adletzung und Hasssymbole auf Plattformen f\u00fcr benutzer\u00adgener\u00adierte Inhalte, einschlie\u00dflich sozialer Medien, identi\u00adfizieren.<\/p>\n

Die KI wird auf gro\u00dfe Mengen an \u201eGround-Truth-Daten\u201c trainiert und sammelt und analysiert Erken\u00adnt\u00adnisse aus Archiven mit getaggten Bildern und Videos, die von Waffen bis hin zu expliziten Inhalten reichen. Die Genauigkeit und Wirksamkeit von KI-Systemen stehen in direktem Zusam\u00admenhang mit der Qualit\u00e4t und Quantit\u00e4t dieser Daten. Einmal trainiert, kann die KI verschiedene Formen sch\u00e4dlicher Inhalte effektiv erkennen. Dies ist besonders wichtig in Live-Streaming-Szenarien, in denen die Moder\u00adation von Inhalten auf verschiedenen Plattformen mit unter\u00adschiedlichen rechtlichen und Community-Standards m\u00f6glich sein muss.<\/p>\n

Ein automa\u00adtisierter Ansatz beschle\u00adunigt nicht nur den Moder\u00ada\u00adtionsprozess, sondern sorgt auch f\u00fcr Skalier\u00adbarkeit \u2013 ein entschei\u00addendes Merkmal in einer Zeit, in der eine rein menschliche Moder\u00adation angesichts der schieren Menge an Online-Inhalten unm\u00f6glich w\u00e4re.\n<\/p>\n

Eine Synergie aus KI und Menschen<\/h3>\n

Die KI-Automa\u00adtisierung bringt erhebliche Vorteile mit sich, da sie es Unternehmen erm\u00f6glicht, in gro\u00dfem Ma\u00dfstab zu moderieren und die Kosten zu senken, da kein gro\u00dfes Moder\u00ada\u00adtorenteam erforderlich ist. Allerdings erfordert selbst die fortschrit\u00adtlichste Technologie menschliches Urteilsver\u00adm\u00f6gen, und KI ist f\u00fcr sich genommen noch lange nicht perfekt. Spezi\u00adfische Nuancen und kontextbe\u00adzogene Hinweise k\u00f6nnen Systeme verwirren und zu ungenauen Ergeb\u00adnissen f\u00fchren. Beispiel\u00adsweise ist die KI m\u00f6glicher\u00adweise nicht in der Lage, zwischen einem K\u00fcchen\u00admesser, das in einem Kochvideo verwendet wird, und einer Waffe, die bei einer Gewalttat verwendet wird, zu unter\u00adscheiden, oder sie verwechselt eine Spielzeug\u00adpistole in einem Werbespot f\u00fcr Kinder mit einer echten Schuss\u00adwaffe.<\/p>\n

Wenn also die KI Inhalte als poten\u00adziell sch\u00e4dlich oder als Versto\u00df gegen Richtlinien kennze\u00adichnet, k\u00f6nnen menschliche Moder\u00ada\u00adtoren eingreifen, um den Inhalt zu \u00fcberpr\u00fcfen und die endg\u00fcltige Entscheidung zu treffen. Dieser hybride Ansatz stellt sicher, dass die KI zwar den Umfang der Inhaltsmod\u00ader\u00adation erweitert und den Prozess ratio\u00adnal\u00adisiert, der Mensch jedoch die ultimative Autorit\u00e4t beh\u00e4lt, insbesondere in komplexen F\u00e4llen.<\/p>\n

In den kommenden Jahren wird die Komplexit\u00e4t der KI-Identi\u00adfizierungs- und Verifizierung\u00adstech\u00adniken weiter zunehmen. Dazu geh\u00f6rt die Verbesserung der Genauigkeit der Zuordnung von Personen, die in verschiedenen Arten von Inhalten vorkommen, zu ihren Ausweis\u00addoku\u00admenten \u2013 ein n\u00e4chster Schritt, um die Einwilligung sicherzustellen und die unbefugte Verbre\u00aditung von Inhalten einzud\u00e4mmen.<\/p>\n

Dank ihrer Lernf\u00e4higkeit werden die Genauigkeit und Effizienz der KI st\u00e4ndig verbessert, mit dem Potenzial, den Bedarf an menschlichem Eingreifen im Zuge ihrer Weiter\u00aden\u00adtwicklung zu verringern. Der menschliche Faktor wird jedoch weiterhin notwendig sein, insbesondere bei Einspr\u00fcchen und Streit\u00adbei\u00adlegung im Zusam\u00admenhang mit Entschei\u00addungen zur Inhaltsmod\u00ader\u00adation. Den aktuellen KI-Technologien mangelt es nicht nur an einer differen\u00adzierten Perspektive und einem differen\u00adzierten Verst\u00e4ndnis, sondern der Mensch kann auch als Kontrolle gegen m\u00f6gliche algorith\u00admische Vorurteile oder Fehler dienen.\n<\/p>\n

Die globale KI-Regulierungslandschaft<\/h3>\n

Da die KI weiter w\u00e4chst und sich weiter\u00aden\u00adtwickelt, werden sich viele Unternehmen an die Regulierungs\u00adbe\u00adh\u00f6rden wenden, um ihre Pl\u00e4ne zur Regulierung von KI-Anwen\u00addungen darzulegen. Die Europ\u00e4ische Union steht bei dieser Geset\u00adzgebung an vorderster Front, da ihr Gesetz zur k\u00fcnstlichen Intel\u00adligenz im August 2024 in Kraft tritt. Das Gesetz gilt als bahnbrechend im Regulierungs\u00adbereich und kategorisiert KI-Systeme in drei Typen: solche, die ein inakzept\u00adables Risiko darstellen, und solche, die als solche gelten Hochrisiko und eine dritte Kategorie mit minimalen Vorschriften.<\/p>\n

<\/div>\n

Infolgedessen wurde ein KI-B\u00fcro eingerichtet, das die Umsetzung des Gesetzes \u00fcberwachen soll und aus f\u00fcnf Einheiten besteht: Regulierung und Compliance; Sicherheit; KI-Innovation und politische Koordinierung; Robotik und KI zum Wohle der Gesellschaft; und Exzellenz in der KI. Das B\u00fcro wird auch die Fristen \u00fcberwachen, die bestimmte Unternehmen f\u00fcr die Einhaltung der neuen Vorschriften einhalten m\u00fcssen. Diese reichen von sechs Monaten f\u00fcr verbotene KI-Systeme bis zu 36 Monaten f\u00fcr KI-Systeme mit hohem Risiko.<\/p>\n

<\/div>\n

Unternehmen in der EU wird daher empfohlen, die Entwick\u00adlungen in der Geset\u00adzgebung genau zu beobachten, um die Auswirkungen auf ihre Gesch\u00e4ft\u00adsak\u00adtiv\u00adit\u00e4ten abzusch\u00e4tzen und sicherzustellen, dass ihre KI-Systeme innerhalb der festgelegten Fristen konform sind. Auch f\u00fcr Unternehmen au\u00dferhalb der EU ist es von entschei\u00addender Bedeutung, dar\u00fcber informiert zu bleiben, wie sich solche Vorschriften auf ihre Aktiv\u00adit\u00e4ten auswirken k\u00f6nnten, da die Geset\u00adzgebung voraus\u00adsichtlich nicht nur die Politik innerhalb der EU, sondern m\u00f6glicher\u00adweise auch im Vereinigten K\u00f6nigreich, in den USA und in anderen Regionen beein\u00adflussen wird. Die in Gro\u00dfbri\u00adtannien und den USA ans\u00e4s\u00adsigen KI-Vorschriften werden diesem Beispiel folgen. Daher m\u00fcssen Unternehmen sicher\u00adstellen, dass sie am Puls der Zeit sind und dass alle Tools, die sie jetzt imple\u00admen\u00adtieren, wahrscheinlich auch in Zukunft den Compliance-Richtlinien dieser L\u00e4nder entsprechen.\n<\/p>\n

Ein kollaborativer Ansatz f\u00fcr ein sichereres Internet<\/h3>\n

Allerdings erfordert die erfol\u00adgreiche Imple\u00admen\u00adtierung von KI in der Inhaltsmod\u00ader\u00adation auch ein starkes Engagement f\u00fcr kontinuier\u00adliche Verbesserung. Es ist wahrscheinlich, dass Tools entwickelt werden, bevor irgendwelche Vorschriften in Kraft treten. Daher ist es wichtig, dass Unternehmen sie proaktiv \u00fcberpr\u00fcfen, um m\u00f6gliche Vorurteile zu vermeiden, Fairness zu gew\u00e4hrleisten und die Privat\u00adsph\u00e4re der Benutzer zu sch\u00fctzen. Organ\u00adi\u00adsa\u00adtionen m\u00fcssen au\u00dferdem in die kontinuier\u00adliche Schulung menschlicher Moder\u00ada\u00adtoren investieren, um die nuancierten F\u00e4lle, die zur \u00dcberpr\u00fcfung durch KI gekennze\u00adichnet sind, effektiv zu bearbeiten.<\/p>\n

Gleichzeitig m\u00fcssen L\u00f6sungsan\u00adbieter angesichts der psychol\u00ado\u00adgisch anspruchsvollen Natur der Inhaltsmod\u00ader\u00ada\u00adtionsarbeit der psychischen Gesundheit ihrer menschlichen Moder\u00ada\u00adtoren Priorit\u00e4t einr\u00e4umen und ihnen solide psychol\u00ado\u00adgische Unter\u00adst\u00fctzung, Wellness-Ressourcen und Strategien zur Verf\u00fcgung stellen, um eine l\u00e4ngere Exposition gegen\u00fcber st\u00f6renden Inhalten zu begrenzen.<\/p>\n

Durch einen proak\u00adtiven und verant\u00adwor\u00adtungsvollen Ansatz bei der KI-gest\u00fctzten Inhaltsmod\u00ader\u00adation k\u00f6nnen Online-Plattformen eine digitale Umgebung schaffen, die Kreativit\u00e4t, Verbindung und konstruk\u00adtiven Dialog f\u00f6rdert und gleichzeitig Benutzer vor Schaden sch\u00fctzt.<\/p>\n

Letztendlich bieten KI-gest\u00fctzte Content-Moder\u00ada\u00adtionsl\u00f6\u00adsungen Unternehmen ein umfassendes Toolkit, um die Heraus\u00adforderungen des digitalen Zeitalters zu meistern. Durch die \u00dcberwachung und Filterung riesiger Mengen an benutzer\u00adgener\u00adierten Inhalten in Echtzeit unter\u00adst\u00fctzt diese hochmoderne Technologie Plattformen bei der Aufrechter\u00adhaltung einer sicheren und konformen Online-Umgebung und erm\u00f6glicht es ihnen, ihre Moder\u00ada\u00adtions\u00adbe\u00adm\u00fchungen effizient zu skalieren.<\/p>\n

Allerdings sollten Unternehmen beim Einsatz von KI wichtige Dokumente, Umset\u00adzung\u00adstermine und die Auswirkungen kommender Geset\u00adzgebung genau im Auge behalten.<\/p>\n

Bei effek\u00adtiver Umsetzung kann KI als perfekter Partner f\u00fcr den Menschen fungieren und eine Content-Moder\u00ada\u00adtionsl\u00f6sung schaffen, die Kinder beim Zugriff auf das Internet sch\u00fctzt und als Eckpfeiler f\u00fcr die Schaffung eines sicheren Online-\u00d6kosystems fungiert.<\/p>\n

\n
\n
\t\t \t<\/div>\n

Lina Ghazal<\/h3>\n

\t\t \t\t \t\t \t\t \t\t \t\t \t\t \t\tLeiter Regulatory and Public Affairs bei VerifyMy, spezial\u00adisiert auf Online-Ethik, Regulierung und Sicherheit. Zuvor arbeitete er bei Meta (ehemals Facebook) und Ofcom. \t<\/p>\n<\/div>\n<\/div>\n