Os usos NSFW respondem por “mais da metade” do tráfego, diz um novo relatório.
A xAI há muito promove o Grok como um tipo de chatbot mais ousado, com menos proteções do que outras empresas de IA. Vimos isso acontecer de maneiras desastrosas no ano passado, mas agora estamos obtendo alguns insights sobre por que a empresa está tão empenhada nessa estratégia, apesar de alguns verdadeiros desastres de relações públicas.
Acontece que as atividades NSFW representam “mais da metade” do tráfego de Grok, de acordo com Um novo relatório em Informação que citou dois ex-funcionários da empresa de propriedade da SpaceX. Isso inclui o uso do Grok para criar pornografia real, bem como “bate-papo de dramatização para adultos” e “pedidos massivos de erotismo”.
Aparentemente, os usuários do Grok descobriram que é mais barato canalizar essas solicitações por meio dos modelos de escrita de código da empresa porque são mais baratos de usar. O relatório afirma que uma análise interna descobriu que uma “proporção significativa de solicitações” ao seu modelo de codificação era para “imagens pornográficas ou de nudez”. Tudo isso sugeriria que a SpaceX poderia atribuir uma quantidade razoável de receita de xAI a conteúdo pornográfico e adulto. Embora a introdução do material NSFW tenha sido de alguma forma omitida dos documentos de IPO da empresa, a SpaceX disse aos potenciais investidores que as características mais “repugnantes” de Grok são um risco potencial. Ela disse que tem US$ 530 milhões para lidar com possíveis custos legais.
O relatório também destaca algumas das formas como a IA está a complicar os assuntos internos das empresas. Por um lado, os engenheiros da xAI tiveram que descobrir como permitir que Grok tivesse bate-papos sensuais com os usuários e bloquear quaisquer solicitações que pudessem levar a conteúdo de abuso sexual infantil. (Aparentemente, não houve uma “solução rápida” para o dilema.)
Alguns funcionários não ficaram nada entusiasmados ao serem contratados para trabalhar em “Ani”, o companheiro de avatar inspirado no anime NSFW de Grok. Outros ficaram “envergonhados e perturbados” com o escândalo subsequente, depois que Groke produziu um monte de imagens sexuais de pessoas reais, incluindo crianças. Posteriormente, o X limitou a capacidade de usar o Grok diretamente na plataforma para criar edições atrevidas a partir de fotos de pessoas reais, mas os clientes pagantes do xAI ainda podem criar tal conteúdo. teste há encontrado.
Existem outros desafios potenciais que podem surgir do foco da Grok em material classificado como R. A xAI buscou agressivamente contratos governamentais e contratos com várias agências e militares, instituições que você normalmente esperaria ter pouca tolerância, mesmo remotamente, NSFW. Mas embora a reaproximação altamente divulgada de Grok entre Deepfakes e CSAM tenha gerado uma série de ações judiciais e investigações, não está claro se esses incidentes tiveram algum impacto em seu relacionamento com o governo federal.
