Microsoft está trabajando en un nuevo mecanismo de filtro que identifica mensajes profanos o amenazantes de los empleados.
EN nueva entrada La hoja de ruta de productos de la compañía describe una próxima actualización del Centro de cumplimiento de Microsoft 365, que los administradores pueden usar para capacitar a los clasificadores para “detectar amenazas, acoso dirigido y palabrotas”.
Estos clasificadores entrenables pueden detectar abusos en varios idiomas, incluidos inglés, francés, español, alemán, portugués, italiano, japonés y chino.
La nueva función aún está técnicamente en desarrollo, pero se espera que esté disponible en los próximos días.
Entorno de trabajo tóxico
Si bien el uso de palabrotas en broma es relativamente inofensivo, muchos empleados han sufrido abusos reales por parte de sus colegas.
La llegada de Herramientas de colaboración facilitaron más que nunca la comunicación en el trabajo, pero también crearon un camino diferente (más allá) Correo electrónico) a través del cual los empleados pueden abusar unos de otros, a menudo sin el conocimiento de la gerencia o sus colegas.
Este problema probablemente solo se vio agravado por el aumento de Trabajo remotoEsto prácticamente ha eliminado cualquier interacción personal entre empleados a favor de formas virtuales de comunicación.
El Centro de cumplimiento de Microsoft 365 se desarrolló principalmente para ayudar a las empresas a administrar sus requisitos de cumplimiento con respecto al gobierno de la información. Sin embargo, con los nuevos clasificadores entrenables, el Centro de cumplimiento también se puede utilizar para identificar y corregir comportamientos inapropiados.
“Un clasificador aprende a identificar un tipo de contenido al observar cientos de ejemplos del contenido que desea clasificar”, explica Microsoft en un Entrada de blog. “El clasificador luego hace predicciones sobre si un artículo en particular cae en la categoría que está creando”.
El clasificador de acoso se utiliza para identificar el abuso que se dirige a una persona o grupo en función de su raza, origen étnico, género, orientación sexual, edad y discapacidad. Los clasificadores de blasfemias y amenazas son un poco más simples y están diseñados para identificar palabrotas y lenguaje agresivo de uso común.
Sin embargo, a Microsoft le gustaría enfatizar que los nuevos filtros no deberían abarcar todos los esfuerzos de una empresa para erradicar el abuso.
“Si bien los clasificadores pueden ayudar a su organización a monitorear idiomas objetables y otros idiomas en uso, los clasificadores no abordan las implicaciones de ese idioma y no pretenden ser la única forma en que su organización puede monitorear o responder a ese idioma”, la empresa dijo.
