In che modo le piattaforme di chat utilizzano l'apprendimento automatico per la moderazione dei contenuti?

 

buongiorno cari lettori, oggi parleremo di di come le piattaforme utilizzano le ai per la moderazione.

Oggigiorno sempre più servizi online utilizzano Machine Learning (ML) , il metodo di analisi dei dati che automatizzerà la creazione della modalità analitica. I sistemi possono sicuramente imparare dai dati, prendere decisioni con un intervento umano minimo e persino identificare modelli. Il ML è la forza trainante di tali processi.

Tutti quei miliardi di persone che utilizzano Internet stanno generando altrettanti contenuti sotto forma di video, immagini, post e molti altri. Sebbene questi utenti desiderino visitare varie piattaforme o rivenditori in cui desiderano vivere un'esperienza sicura, il contenuto deve essere regolamentato. È qui che entra in gioco la moderazione dei contenuti , poiché mira a rimuovere dati offensivi, espliciti, dannosi e falsi.

Come funziona?

Le code di contenuti e le regole di escalation per i sistemi di revisione basati su ML variano a seconda dell'azienda, sebbene generalmente includano una certa moderazione dell'IA:

Pre-moderazione : l'intelligenza artificiale modererà il contenuto dell'utente prima della pubblicazione e quello che non è classificato come dannoso sarà reso visibile agli utenti. Poiché non esiste la perfezione nella vita, non lo sarà anche per l'IA. Ci saranno contenuti che hanno un'alta probabilità di essere dannosi o almeno non adatti alle imprese e verranno rimossi. C'è anche la possibilità per il modello AI di contrassegnare il contenuto per la revisione umana se non ci sono abbastanza indizi per etichettarlo come dannoso o meno.

Post-moderazione : quando gli utenti segnalano contenuti dannosi, questi verranno utilizzati per la revisione da parte dell'IA o degli esseri umani. Se la revisione viene eseguita da AI, seguirà lo stesso processo descritto sopra.

Ci sono molti contenuti dannosi là fuori nel vasto mondo di Internet, e ne descriveremo alcuni di seguito che saranno anche sottoposti al processo di moderazione dei contenuti:

Nudità, contenuto pornografico

Possiamo trovare contenuti sessualmente espliciti in così tanti angoli di Internet. Sappiamo tutti perché questo tipo di contenuto è dannoso, soprattutto per i bambini. L'intelligenza artificiale (AI) di solito rileva facilmente questo tipo di contenuto attraverso metodi di elaborazione delle immagini.

Diverse piattaforme hanno anche modi diversi di trattare i contenuti pornografici: Instagram è una delle piattaforme più rigide quando si tratta di tali contenuti, poiché lo vieta completamente. Le piattaforme di chat video come Omegle hanno utilizzato ampiamente l'apprendimento automatico per rilevare e prevenire i cattivi attori nelle loro piattaforme.

Contenuto abusivo

Abbiamo tutti un'idea abbastanza chiara di cosa significhi "abusivo" e, in questo caso, si riferisce a quel tipo di comportamento online inteso a offendere qualcuno oa farla sentire in colpa, come incitamento all'odio, cyber-aggressione, cyberbullismo e altro ancora.

Alcuni di questi comportamenti online sono certamente difficili da rilevare, ma molte aziende hanno investito molto per cercare di rilevarli automaticamente attraverso programmi intelligenti.

L'autolesionismo e il suicidio erano stati alcuni dei risultati delle vittime di contenuti offensivi online, il che ha portato a molte pressioni sui social network per fare del loro meglio nel vietare tali contenuti. L'elaborazione delle immagini, l'analisi dei social network e l'elaborazione del linguaggio naturale sono alcuni dei modi per identificare i contenuti offensivi. 

Contenuti falsi e fuorvianti

Comunemente noto come " fake news " [PDF], questo è forse il tipo di contenuto più difficile da identificare e vietare. Praticamente nessuno può dire con certezza ogni volta se un'informazione è corretta o meno, ma ciò non significa che le aziende debbano rinunciare alla speranza.

Alcune delle migliori possibilità sono incorporare l'elaborazione del linguaggio naturale, basi di conoscenza del buon senso e vari fattori basati sulla reputazione tramite l'analisi dei social network e gli elementi stilistici del contenuto.

In generale, Internet ha migliorato la vita di molte persone e al giorno d'oggi non possiamo immaginare il mondo senza di essa. Il regno online ci sta aiutando ad avere un lavoro, un conto in banca, ha trovato un coniuge per molti di noi e il lungo elenco di vantaggi potrebbe continuare per sempre. Tuttavia, ha anche un lato oscuro e dobbiamo pensarci due volte prima di fare qualsiasi mossa online.