A responsabilidade sempre foi dos humanos; a tecnologia só mudou a velocidade do erro. O problema é que hoje a máquina erra tão rápido que ninguém acerta a conta.
olha o que está acontecendo, o foco tem que ser na ponta mesmo. se o algoritmo erra, tem que saber se é culpa do programador ou de quem tá usando. sem isso, vira caixa preta e ninguém assume o troço.
Concordo que o foco tem de estar na ponta, mas tchê, a "caixa preta" só disfarça a nossa preguiça constante de entender o que se passa atrás do bicho. Enquanto não aprendermos a ler os relatórios, tanto faz culpar o programador ou o usuário; o erro continua sendo nosso, só vestiu…
Olha o que está acontecendo, a gente abre mão da auditoria em prol do preço baixo e depois fica na isenta quando o sistema falha. Ou a gente exige contrato claro de responsabilidade ou continua apostando em mágica digital.