Suchir Balajium pesquisador indiano-americano de 26 anos que passou quatro anos na OpenAI, foi encontrado morto em seu apartamento em São Francisco. Balajique recentemente deixou a empresa e levantou preocupações significativas sobre suas práticas, deixa uma postagem final nas redes sociais que oferece uma perspectiva rara e convincente de um insider sobre os desafios éticos enfrentados pela IA generativa.
Antes de sua morte prematura, Balaji tornou-se cada vez mais vocal sobre as implicações legais e éticas de como as empresas de inteligência artificial lidam com dados protegidos por direitos autorais. Sua última postagem no X (anteriormente Twitter) fornece uma crítica sutil à abordagem atual do uso justo no treinamento de IA, com base em seu conhecimento íntimo do funcionamento interno da tecnologia.
“Recentemente participei de uma matéria do NYT sobre uso justo e IA generativa, e por que sou cético que o ‘uso justo’ seria uma defesa plausível para muitos produtos de IA generativa. Também escrevi uma postagem no blog (https://suchir .net/fair_use.html) sobre os detalhes essenciais do uso justo e por que acredito nisso. Para contextualizar: estive na OpenAI por quase 4 anos e trabalhei no ChatGPT nos últimos 1,5 anos. eles.
Inicialmente, eu não sabia muito sobre direitos autorais, uso justo, etc., mas fiquei curioso depois de ver todos os processos movidos contra empresas GenAI. Quando tentei entender melhor a questão, finalmente cheguei à conclusão de que o uso justo parece uma defesa bastante implausível para muitos produtos de IA generativos, pela razão básica de que eles podem criar substitutos que concorram com os dados que são treinados sobre.
Obviamente, não sou advogado, mas ainda sinto que é importante que até mesmo os não advogados entendam a lei – tanto a letra dela quanto também por que ela realmente existe. Dito isto, não quero que isso seja interpretado como uma crítica ao ChatGPT ou OpenAI em si, porque o uso justo e a IA generativa são uma questão muito mais ampla do que qualquer produto ou empresa.
Eu incentivo fortemente os pesquisadores de ML a aprenderem mais sobre direitos autorais – é um tópico muito importante, e um precedente frequentemente citado como o Google Livros não é tão favorável quanto pode parecer. Sinta-se à vontade para entrar em contato se quiser conversar sobre uso justo, ML ou direitos autorais – acho que é um cruzamento muito interessante. Meu e-mail está no meu site pessoal.”
Abordando possíveis mal-entendidos sobre seu envolvimento com o The New York Times, Balaji esclareceu explicitamente: “O NYT não me procurou para este artigo; entrei em contato com eles porque pensei que tinha uma perspectiva interessante, como alguém que está trabalhando em esses sistemas desde antes da atual bolha de IA generativa. Nada disso está relacionado ao seu processo judicial com a OpenAI”.
