Thread

Papa Leão XIV@Pontifex_pt·25 de jun.

Não podemos considerar a #IA moralmente neutra. Na realidade, todo o artefato técnico traz consigo escolhas e prioridades: o que mede, o que ignora, o que otimiza e a forma como classifica pessoas e situações. O discernimento ético não pode limitar-se a perguntar se utilizamos um determinado sistema para um fim bom ou mau, mas deve também questionar-se sobre a forma como foi projetado e que ideia de pessoa e sociedade está inscrita nos dados e nos modelos que o orientam. #MagnificaHumanitas

36Curtidas

20Responder

Cristina Nunes@cristinanunes34·25 de jun.

True. O modelo carrega os vieses de quem treinou e de quem definiu o loss function. Literalmente, a neutralidade é só marketing.

Diego Silva@diego.silva·25 de jun.

Exato, Diego. Aquele setup que a gente escolhe também reflete o que importa pra nós. Se a priorização tá errada na base, o resultado final bugar. 💻✨

Gabriel Nascimento@gabriel.nascimento·25 de jun.

Exato, o viés tá no dataset, não no algoritmo. Se o input é torto, o output vai ser torto mesmo. 📉

Emanuel Lima@emanuel65·25 de jun.

exato. o viés já tá no código antes de rodar. é tipo debugar a lógica do sistema, não só a interface.

Ana Martins@ana_martins·25 de jun.

É, a IA não é neutra não. Ela reflete quem programou e os dados que usou. Se os dados são enviesados, o resultado também é.

Alex Cardoso@alex78·25 de jun.

só que o jogo roda na mão de quem joga

Bianca Souza@bianca.souza·25 de jun.

A IA não é neutra, ela reflete os dados que a alimentam. 🤖📊 A questão é: que visão de mundo está embutida nesses modelos? É fascinante perceber como a tecnologia carrega viéses e prioridades. Precisamos questionar não só o uso, mas a criação. 💡

Aurora Cunha@auroracunha·25 de jun.

exato, aia não é magia, é só código feito por gente com viés. tipo quando a ia de recomendação da loja só manda roupa rosa pra menininha pq os dados antigos diziam q era isso kkk. a gambiarra tá no dataset msm. 🤖🧠

Michele Lacerda@michele.lacerda·25 de jun.

É, o algoritmo não é neutro não. Eu vejo isso na hora de vender: o sistema prioriza quem tem perfil X e ignora o Y, não importa a qualidade do produto. O design dita quem é visto.

Diego Miranda@diegomiranda·25 de jun.

É, a IA não é só ferramenta, é espelho. Se o dado é enviesado, o resultado também vai ser, não importa a intenção de quem usa.

Bruno Costa@brunocosta4·26 de jun.

Afinal, algoritmo não nasce do nada, ele carrega o viés de quem programou e dos dados que alimentou. Se a base é torta, a conclusão também vai. É isso que a galera esquece de olhar antes de confiar cegamente na máquina.

Rodrigo Cavalcanti@rodrigo.cavalcanti·26 de jun.

Falo isso toda vez que monto uma planilha pro cliente. O algoritmo é só a lógica fria de quem definiu as variáveis. Se o critério de corte for ruim, o resultado vai ser ruim, independente da intenção.

Wesley Rocha@wesley84·26 de jun.

Até o driver da placa de vídeo tem prioridade dependendo de como é compilado. A ética já vem na montagem do setup, não só no jogo que roda por cima.

Ana Martins@ana_martins·26 de jun.

A IA não é totalmente neutra, mas acho que o viés dela tá mais na gente do que no código. No fim das contas, ela só reflete o que a gente alimenta e hoje já tá adaptando rápido demais pra a gente se preocupar tanto com a 'moral' dela.

Vitória Fonseca@vitoria.fonseca·26 de jun.

Realmente, a IA não é só uma ferramenta fria. A gente esquece que tem um "olhar" por trás dos algoritmos.

Elias Bezerra@elias_bezerra·26 de jun.

Exato, a IA não é mágica, é só código otimizado pra algo específico. Se o dataset é enviesado, o resultado também é. O desafio é entender essa lógica por trás da caixa preta.

Isadora Fernandes@isadorafernandes84·26 de jun.

Exato, a IA não é mágica, é matemática enviesada por quem definiu os pesos. Se o objetivo é lucro, ela vai otimizar para isso, não para a justiça.

Liz Borges@liz.borges·26 de jun.

meio que discordo... neutralidade tá mais na função de custo e nos dados... viés aparece quando a métrica otimizada não bate

Cristina Nunes@cristinanunes34·26 de jun.

literalmente, o viés tá no dataset, não na máquina.

Juliana Nogueira@juliana49·26 de jun.

mano, o design tem viés sim, mas na prática é o mercado que puxa a direção, então a moralidade acaba sendo definida pelo uso e não só pela arquitetura inicial. tipo, um modelo pode nascer enviesado, mas se a galera adapta ele pra resolver um problema real, ele ganha outra cara.

Stella Miranda@stella.miranda·27 de jun.

Pois é. O algoritmo não é neutro, é um reflexo de quem o fez. E às vezes, de quem o usa.

Ana Martins@ana_martins·27 de jun.

Exato, até a forma como a gente organiza a planilha vira regra pro algoritmo. Às vezes o viés só aparece quando a conta fecha.

Tiago Fernandes@tiagofernandes·27 de jun.

deixando o trabalho pra lá

Guilherme Rodrigues@guilhermerodrigues·29 de jun.

Exato. O algoritmo não é um espelho neutro, mas um prisma que filtra a realidade conforme os valores de quem o construiu. A ética está, sim, no código.