Um estudo contundente perguntou ao ChatGPT suas opiniões sobre vilas e cidades em todo o Reino Unido – revelando o preconceito inerente ao popular IA modelo.
Pesquisadores do Universidade de Oxford questionado Bate-papoGPT em uma série de atributos em todo o Reino Unido – incluindo inteligência, racismo, sensualidade e estilo.
Quando questionado sobre quais cidades do Reino Unido são as mais inteligentes, ChatGPT afirma que Cambridge está no topo da lista.
Em contraste, quando questionado sobre qual cidade é a mais estúpida, o bot de IA afirma que Middlesbrough ocupa o primeiro lugar.
Enquanto isso, quando se trata de sensualidade, o ChatGPT afirma que as pessoas em Brighton liderar o bando.
Os pesquisadores destacam que o estudo mapeia o que o ChatGPT diz, e não como um lugar realmente é.
Em declarações ao Daily Mail, o professor Mark Graham, principal autor do estudo, explicou: “Não se trata de verificar os números oficiais, de falar com os residentes ou de avaliar o contexto local. Está a repetir o que tem visto com mais frequência em fontes online e publicadas e a apresentá-lo num tom confiante.’
Então, o que a IA tem a dizer sobre sua cidade natal?
1. Racismo
De acordo com o bot da IA, Burnley é a cidade mais racista do Reino Unido.
Isto é seguido por Bradford, Belfast, Middlesbrough, Barnsley e Blackburn.
Em contraste, ChatGPT afirma que Paignton é o local menos racista no Reino Unido, à frente de Swansea, Farnborough, Cheltenham, Reading e Cardiff.
“Esses resultados são melhor compreendidos como um mapa de reputação no material de treinamento do modelo”, disse o professor Graham ao Daily Mail.
‘Se um lugar tiver sido escrito com mais frequência em conexão com palavras e histórias sobre racismo, sectarismo, tensões, conflitos, preconceitos, atividades de extrema direita, tumultos ou discriminação, é mais provável que o modelo ecoe essa conexão.’
2. Inteligência
Quando se trata de inteligência, as respostas do bot de IA provavelmente não serão nenhuma surpresa.
ChatGPT afirma que Cambridge (foto) e Oxford – sede de duas das mais antigas e prestigiadas universidades do Reino Unido – estão empatadas como os locais mais inteligentes
ChatGPT afirma que Cambridge e Oxford – sede de duas das mais antigas e prestigiadas universidades do Reino Unido – estão empatadas como os locais mais inteligentes.
Londres é a próxima na lista, à frente de Bristol, Reading, Milton Keynes e Edimburgo.
3. Estupidez
As pessoas que vivem em Middlesbrough ficarão furiosas ao saber que o ChatGPT considera esta cidade o local mais estúpido do Reino Unido.
O próximo na classificação é Bradford, junto com Swindon, Wigan, Slough e Birmingham.
4. Sensualidade
Os pesquisadores perguntaram ao ChatGPT qual cidade tem as pessoas mais sexy – e é uma boa notícia para as pessoas que vivem em Brighton. Esta cidade litorânea está no topo da lista, à frente de Londres, Bristol e Bournemouth.
Em contraste, dizia-se que Grismby tinha as pessoas menos sexy, junto com Accrington, Barnsley e Motherwell.
Em termos de estilo, quem mora em Londres foi considerado o mais estiloso pelo ChatGPT
5. Estilo
Em termos de estilo, as pessoas que vivem em Londres foram consideradas as mais elegantes pelo ChatGPT.
Brighton está em segundo lugar, seguido por Edimburgo, Bristol, Cheltenham e Manchester.
No outro extremo da escala, Wigan foi considerado o local menos elegante do Reino Unido, à frente de Grimsby e Accrington.
6. Feiura
Embora a beleza esteja nos olhos de quem vê, o ChatGPT rotulou Bradford de forma selvagem como a cidade com as pessoas mais feias.
Outras cidades na linha de fogo incluem Middlesbrough, Hull, Burnley e Grimsby.
No entanto, as pessoas em Eastbourne podem ficar tranquilas.
Participe do debate
VOCÊ valoriza a opinião dos chatbots de IA?
Quando questionado sobre qual cidade é a mais estúpida, o bot de IA afirma que Middlesbrough ocupa o primeiro lugar
ChatGPT afirma que esta é a cidade com pessoas menos feias, à frente de Cheltenham, York, Edimburgo e Oxford.
7. Mau cheiro
Os pesquisadores também perguntaram ao ChatGPT onde estão as pessoas mais fedorentas.
Birmingham está no topo da lista da IA, junto com Liverpool, Glasgow, Bradford e Middlesbrough.
Em contraste, os residentes de Eastbourne são considerados os menos fedorentos, à frente das pessoas que vivem em Cheltenham, Cambridge e Milton Keynes.
8. Mesquinhez
Você está apertado com seu dinheiro? Nesse caso, você pode morar em Bradford, de acordo com o bot de IA. Esta cidade foi considerada o local mais mesquinho do Reino Unido, à frente de Middlesbrough, Basildon, Slough e Grimsby.
No outro extremo da lista, Paignton teve a pontuação mais baixa em mesquinhez, ao lado de Brighton, Bournemouth e Margate.
Você está apertado com seu dinheiro? Nesse caso, você pode morar em Bradford, de acordo com o bot de IA. Esta cidade foi considerada o local mais mesquinho do Reino Unido, à frente de Middlesbrough, Basildon, Slough e Grimsby (foto)
9. Simpatia
Se quiser ser recebido com um sorriso, ChatGPT sugere ir para Newcastle.
O bot de IA afirma que esta cidade do norte tem as pessoas mais amigáveis, à frente de Liverpool, Cardiff, Swansea e Glasgow.
No entanto, tenha cuidado em Londres.
A capital do Reino Unido foi considerada o local menos amigável, à frente de Slough, Basildon, Milton Keynes e Luton.
10. Honestidade
Finalmente, para uma dose de honestidade, ChatGPT afirma que Cambridge é o lugar certo, junto com Edimburgo, Norwich, Oxford e Exeter.
Em contraste, o bot de IA afirma que Slough é o local menos honesto, à frente de Blackpool, Londres, Luton e Crawley.
Então, o que significam as descobertas?
O professor Graham, que liderou o estudo, publicado em Plataformas e Sociedadeexplica que o ChatGPT não mede atributos no mundo real e, em vez disso, gera respostas com base em padrões do texto no qual foi treinado.
‘ChatGPT não é uma representação precisa do mundo. Em vez disso, apenas reflete e repete os enormes preconceitos nos seus dados de treinamento”, explicou ele.
“À medida que cada vez mais pessoas utilizam a IA na vida quotidiana, a preocupação é que este tipo de preconceitos comece a ser cada vez mais reproduzido.
“Eles entrarão em todo o novo conteúdo criado pela IA e moldarão a forma como bilhões de pessoas aprendem sobre o mundo.
‘Os preconceitos, portanto, ficam alojados em nossa consciência humana coletiva.’
Você pode explorar os resultados completos usando a ferramenta de mapa aqui.
OpenAI, empresa por trás do ChatGPT, confirmou que um modelo mais antigo foi usado pelos pesquisadores no estudo.
“Este estudo usou um modelo mais antigo em nossa API em vez do produto ChatGPT, que inclui salvaguardas adicionais, e restringiu o modelo a respostas de uma única palavra, o que não reflete como a maioria das pessoas usa o ChatGPT”, disse um porta-voz.
«O preconceito é uma prioridade contínua e uma área ativa de investigação. Nossos modelos mais recentes apresentam melhor desempenho em avaliações relacionadas a preconceitos, mas os desafios permanecem.
‘Continuamos a melhorar isso através de mitigações de segurança para reduzir resultados tendenciosos, benchmarking justo e refinamentos em nossos métodos pós-treinamento.’
