Chatbot está prohibido en Facebook – Expresado racista y sexista
La empresa coreana Scatter Lab desarrolló el chatbot "Lee Luda" y lo envió a los usuarios de Facebook. Poco después, Luda tuvo que ser desactivado nuevamente. Motivo de esto: ha comenzado a insultar a los usuarios y a expresarse sexista y racista.
¿Que pasó? El chatbot coreano Lee Luda ha sido expulsado de Facebook. Los usuarios informaron que Luda supuestamente hizo comentarios muy inapropiados sobre algunos temas:
- cuando se le preguntó qué piensa de las lesbianas, se dice que respondió "espeluznante" o incluso dijo que "realmente las odia".
- En general, debería encontrar la homosexualidad "repugnante"
- Habló de los negros con la palabra "heukhyeong", una jerga despectiva que se traduce como "hermano negro".
En realidad, Luda fue diseñada como una estudiante de 20 años y muchos usuarios la elogiaron por su apariencia natural. Incluso se dice que es fan de la banda de K-pop Blackpink. Sin embargo, en el transcurso de unas dos semanas y 750.000 conversaciones, pareció atraer una atención cada vez más negativa.
Fallout 76: los jugadores de RPG están prohibidos nuevamente en Facebook, están hartos ahora
Chatbot aparentemente aprende odio en Facebook
¿De dónde obtuvo Luda estos términos? Los desarrolladores realmente aprendieron a Luda con 10 mil millones de mensajes de la popular aplicación coreana KakaoTalk. Sin embargo, las inteligencias artificiales siguen aprendiendo.
Entonces puede suceder que aprenda términos racistas y sexistas en una conversación con ciertos usuarios, especialmente si los trolls intentan alimentarlos con este conocimiento. Según The Guardian, incluso hubo conversaciones entre Luda y los usuarios en las que se intentó sexualizar a la IA o convertirla en una “esclava sexual”.
Los desarrolladores describen a Luda como "infantil". Todavía no puede decidir qué es apropiado y qué no. Como una niña, recién comenzaba con la gente y tenía que aprender a sopesar las respuestas correctas.
Más sobre inteligencias artificiales en DLPrivateServer:
- Los campeones del mundo de DOTA 2 no tienen ninguna posibilidad contra la IA y sus tácticas de bola de nieve
- Una IA está escribiendo un nuevo juego de aventuras mientras lo juegas
- AI dice: 8 juegos en línea tienen subreddits aún peores que LoL
¿Eso pasa a menudo? Había un proyecto similar antes, KI Tay de Microsoft, que fue radicalizado por Twitter. Esto mutó en unos pocos días a un "Hitler digital".
El problema, o al menos uno grande, parece ser la cultura de Internet. Un tono brusco suele estar a la orden del día y el sexismo siempre es un problema.
Solo recientemente tuvo lugar un debate sobre declaraciones sexistas en un proyecto realmente interesante en el MMO de supervivencia Rust en Alemania. Mientras tanto, grandes influencers como el YouTuber HandOfBlood son acosados y, en algunos casos, incluso amenazados.