A empresa também está desenvolvendo a capacidade de entrar em contato com os serviços de emergência se um usuário estiver em perigo iminente de se machucar.
A Meta está expandindo suas proteções para usuários adolescentes em um esforço para mostrar aos pais e possivelmente aos reguladores que suas plataformas são seguras para uso. Isso acontece meses depois que os pais começaram a mostrar tópicos de conversa sobre IA aos adolescentes, Meta introduzido Um novo recurso de proteção de segurança permitirá que eles saibam se as conversas de seus filhos estão considerando automutilação ou suicídio.
Quando um usuário menor de idade fala sobre suicídio ou automutilação, a Meta AI já o direciona para uma linha de ajuda em caso de crise e o incentiva a entrar em contato com um adulto que possa ajudar. A partir de hoje, a empresa notificará proativamente o pai ou responsável que tem a custódia do adolescente de que ele está em risco. Irá partilhar recursos e conselhos sobre o que podem fazer pelos seus filhos.
A Meta diz que construiu um sistema de IA dedicado para detectar essas conversas, mas irá revisar manualmente todos os chats sinalizados pela IA antes de enviar alertas para evitar causar pânico se não houver um motivo real para isso. No entanto, ele será cauteloso e enviará notificações mesmo que a intenção do usuário juvenil pareça pouco clara para um revisor humano. Este recurso agora está disponível para pais que usam o controle parental do Instagram nos EUA, Reino Unido, Austrália e Canadá. Estará disponível para todos que usam o controle dos pais em todo o mundo até o final do ano
A empresa também está trabalhando na construção da capacidade de entrar em contato com serviços de emergência caso a conversa de um usuário com a Meta AI indique que ele pode estar em risco iminente de tirar a própria vida, sejam eles menores ou adultos. Em maio, a OpenAI introduziu um recurso que visa combater a automutilação. Chamado de Contatos Confiáveis para ChatGPT, ele permite que os usuários designem um amigo com quem a empresa pode entrar em contato caso corra o risco de se machucar.
Finalmente, a configuração de conteúdo meta limitado agora também se aplica às interações de meta IA. Se um pai ativar conteúdo limitado no Instagram, que filtra conteúdo com recursos visuais adultos e tópicos delicados como automutilação, as interações de IA de seus filhos também serão mais limitadas.
Se você ou alguém que você conhece está tendo pensamentos suicidas, não hesite em entrar em contato com a National Suicide Prevention Lifeline pelo telefone 1-800-273-8255. A linha funciona 24 horas por dia, 7 dias por semana e também oferece chat online caso não haja telefone disponível
