Há cerca de nove meses, solicitei o GRFP – uma bolsa de doutorado da National Science Foundation (NSF).
Na aplicação, propus pesquisar como os cientistas da computação codificam ética e valores em algoritmos de aprendizado de máquina e como os projetistas de ML podem entender melhor as implicações sociais de suas escolhas de design ou empresas de Link Dedicado.

Por exemplo, se um engenheiro de ML projeta um sistema de tomada de decisão para ser mais justo, que definição de justiça eles estão usando? Para quais métricas de avaliação eles estão optando por otimizar? E quais são as consequências sociais da escolha de uma métrica ou definição em detrimento de outra?

Propus-me pesquisar o dano potencial de questões sociais incorporadas em algoritmos, como trocas de valor e o que fazer no caso de um conflito de valor ao projetar um sistema de ML.

Link Dedicado

Minha inscrição foi rejeitada.

Ontem, recebi comentários dos três acadêmicos que revisaram minha proposta. Todo o feedback deles foi positivo; com exceção de uma frase:

“Parece ser mais um estudo social do que um projeto de CS”. – Revisor # 2

Quando li este comentário, questionei imediatamente se teria sido melhor solicitar essa concessão em um campo de ciências humanas em vez de em CS; que logo percebi ser simbólico de uma das falhas historicamente fundamentais do campo da computação – a suposição de que ciências sociais e ciências da computação são separadas.

Ao ler e reler os comentários do revisor, comecei a pensar nas implicações de suas palavras. Várias perguntas passaram pela minha cabeça:

Qual é a relação entre ciências sociais e ciência da computação?
Que papéis a ciência da computação deve desempenhar na sociedade?

O que pode acontecer se continuarmos a ver as ciências sociais e as ciências da computação como separadas?
Enquanto explorava essas questões, comecei a mergulhar no que realmente é o propósito da tecnologia. Quando o conto da tecnologia começou a se desenrolar, foi recebido um entendimento maior dos papéis que a tecnologia desempenha em minha vida e de meu papel como cientista da computação para moldar a sociedade.

1. Qual é a relação entre ciências sociais e ciência da computação?

A tecnologia tornou-se incorporada na sociedade. Desde a tomada de decisões algorítmicas até as chamadas de zoom induzidas por quarentena, estamos incorporando a tecnologia em nossas vidas mais do que nunca.

Atualmente, nossa sociedade está funcionando através de um mundo online. Os relacionamentos são interligados pela largura de banda flutuante. As comunidades são conectadas através de 0s e 1s que formaram a base e as raízes do nosso futuro.

Link Dedicado
Então, qual é a relação entre ciência social e ciência da computação?

“As tecnologias não são apenas auxiliares da atividade humana, mas também forças poderosas que atuam para remodelar essa atividade e seu significado”. – Vencedor de Langdon

Por centenas de milhares de anos, os humanos utilizaram a tecnologia para subir ao topo da cadeia alimentar. Quando um problema foi encontrado (por exemplo, precisamos que nossos alimentos durem mais) – uma solução tecnológica foi formada (por exemplo, Fogo!).

É claro que, à medida que essas ferramentas tecnológicas se tornaram mais fortemente introduzidas na sociedade, elas começaram a modificá-la e remodelá-la de maneiras inesperadas (por exemplo, o uso do fogo como ferramenta agrícola teve um grande papel na revolução agrícola).

Agora, avançamos rapidamente para o século XXI, onde empregamos uma nova forma de tecnologia – tecnologia de computação – para ajudar a resolver problemas da sociedade, incluindo:

A internet: ajudando-nos a obter acesso a mais informações.

O smartphone: permitindo-nos dar uma maior mobilidade às nossas vidas.

Mídias sociais: conectando o mundo de uma maneira que nunca foi possível antes.

À medida que a internet, smartphones e mídias sociais foram introduzidos em nossas vidas como soluções para problemas – eles mudaram permanentemente o discurso da sociedade.

Link Dedicado

A historia é assim:

Problema social → Solução tecnológica → Mudança social maciça
Atualmente, nossa comunidade global é mantida unida pela tecnologia de computação. A internet, telefones inteligentes e mídias sociais são algumas das muitas novas tecnologias que transformaram radicalmente o cenário cultural.

A ciência social é o ramo da ciência dedicado ao estudo das sociedades humanas e às relações entre os indivíduos dessas sociedades.

Então, qual é a relação entre ciência da computação e ciência social? Acho difícil imaginar um mundo em que essas duas disciplinas não estejam intrinsecamente conectadas. A tecnologia foi criada como um meio de modificar o mundo ao nosso redor para atender às necessidades atuais da sociedade.

À medida que a tecnologia da computação continua progredindo em domínios como aprendizado de máquina e inteligência artificial, o potencial de transformação da sociedade é literalmente inimaginável.

2. Que papéis a ciência da computação deve desempenhar na sociedade?

Ironicamente, ontem à tarde eu estava programado para dar uma palestra de 75 minutos em um dos meus cursos de pós-graduação sobre o papel que as tecnologias de computação deveriam desempenhar na solução de problemas sociais. Minha turma, Aprendizado de Máquina Centrado no Homem, é composta pela maioria dos alunos de doutorado em Ciência da Computação.

Facilitei uma discussão baseada no artigo Papéis para computação em mudança social. Perguntei aos alunos se eles achavam que a tecnologia da computação era responsável por ajudar a consertar a sociedade. Eles tiveram algumas idéias interessantes:

Um estudante mencionou que a própria tecnologia não é responsável por mudanças sociais positivas, mas que os humanos são. Ele explicou que, como os seres humanos são responsáveis ​​pela criação de tecnologia, eles devem sempre criá-la com a intenção de promover o bem-estar social.

Outro estudante questionou se a tecnologia deveria desempenhar um papel na resolução de problemas sociais. Ele afirmou que, embora ache que a tecnologia não deve perpetuar questões sociais como discriminação e injustiça, ela não é responsável por resolver essas questões subjacentes.

Conforme explicado no artigo que alimentou nossa conversa, concordamos que a tecnologia de computação provavelmente não deveria tentar resolver problemas sociais. Pelo contrário, deve se ver como parte do todo. Assim como a ciência da computação pode perpetuar questões sociais, também pode fazer parte da solução.

Discutimos como a tecnologia de computação, especialmente os sistemas de aprendizado de máquina, pode transformar a sociedade em todas as etapas do processo de design. A partir dos dados escolhidos para treinar um modelo até as métricas definidas para medir o sucesso, as decisões de projeto de ML são escolhas baseadas em ciências sociais.

Com menos de um dia desde a leitura dos comentários da minha proposta rejeitada da NSF, decidi perguntar a esses especialistas emergentes em ciência da computação o que eles pensavam sobre a relação entre ciência social e ciência da computação.

Eles concordaram por unanimidade que os dois estão intrinsecamente conectados.

“Uma análise holística de um sistema sociotécnico deve recorrer a uma ampla gama de disciplinas para identificar de maneira abrangente os problemas em jogo”. – Papéis para a computação na mudança social

3. O que pode acontecer se continuarmos a ver as ciências sociais e as ciências da computação como separadas?

Quando recebi meu diploma de bacharel em Engenharia de Software, fui obrigado a fazer 1 curso de ética em computação. A turma foi chamada de Responsabilidades Profissionais.

Foi graças a essa classe que comecei a entender, pela primeira vez, o papel que a tecnologia desempenha em ajudar ou prejudicar a sociedade.

Este curso exigido alterou minha compreensão fundamental do papel da tecnologia em minha vida e mudou a trajetória de minha carreira.

Nunca pensei que questões sociais como moralidade, justiça, justiça e desigualdade estivessem entrelaçadas com a ciência da computação até que eu fizesse essa aula. Fiz dezenas de cursos de ciência da computação sem mencionar a palavra ética. Passei centenas de horas projetando algoritmos sem nunca questionar quais seriam suas implicações mais amplas. A ciência social não foi um tópico que surgiu no meu currículo de ciência da computação.

Apesar de estar vivendo em um mundo cada vez mais moldado por decisões algorítmicas, aprendi por anos que ciência da computação e ciência social são separadas. Quando decidi iniciar meu doutorado em ética de aprendizado de máquina, prometi provar que essas duas disciplinas não são separadas, mas são tão imensamente conectadas que seria perigoso ensinar uma sem a outra.

Então, eis a minha preocupação: se os campos da ciência da computação e da ciência social continuarem sendo vistos como entidades separadas, a “ética” permanecerá como uma reflexão tardia nos sistemas técnicos, os currículos de CS continuarão a incluir apenas uma ou zero “responsabilidades profissionais / éticas” ”, E a tecnologia continuará a moldar a sociedade de maneira negativa.

É por isso que é essencial reconhecer que os cientistas da computação devem ser instruídos a codificar com responsabilidade social e equipados com as ferramentas corretas para fazer isso.

Com isso em mente, envio gratidão ao cientista da computação que rejeitou meu pedido de NSF. Suas palavras, sozinho, reacenderam minha paixão por provar por que a ciência da computação não deveria e não pode existir sem a orientação das humanidades.

Você me lembrou por que meu trabalho é importante.

Você me motivou a continuar fazendo o que estou fazendo.