Star Trek is one of the most iconic science fiction franchises in television history. Created by Gene Roddenberry, the series premiered on September 8, 1966, in the United States on the NBC network. Roddenberry’s idea was to present a future where humanity had overcome racial, political, and economic conflicts, exploring space in peace and collaboration, resulting in a progressive and innovative approach for its time. During its original run from 1966 to 1969, Star Trek had three seasons and an average audience of 10 to 12 million viewers per episode [1].

In episode 20, titled “Court Martial,” Captain Kirk, commander of the starship USS Enterprise, faces a court-martial by Starfleet, accused of negligence and perjury. The accusation is based entirely on the testimony of the ship’s onboard computer artificial intelligence, revealing a disturbing blind trust in emerging technology. However, Spock, the mission’s science officer, discovers that the AI algorithm was manipulated to incriminate his commander. The episode, aired in 1967, anticipates current debates about algorithmic failures and the risk of convictions based on incorrect data, showing the danger of accepting automated decisions without human verification.

Star Trek’s episode 20, “Court Martial,” astonishingly predicted a current risk: the use of AI-generated evidence in trials. Today, artificial intelligence is used to predict criminal recidivism, suggest sentences, or validate digital evidence. However, just as Captain Kirk was nearly convicted by tampered data from the Enterprise’s computer, errors in AI systems can lead to serious injustices. An algorithm can be manipulated, poorly programmed, or biased, and if accepted as absolute truth without critical human review, it can condemn the innocent [2]. The episode highlights the importance of human verification and the ability to question technological authority.

Star Trek’s fiction serves as an increasingly relevant futuristic warning. Just as Spock proved the computer was corrupted, the modern judicial system must maintain mechanisms to audit and challenge algorithmic evidence to ensure real justice. In this context, the National Council of Justice (CNJ) established guidelines for the development, use, and governance of artificial intelligence (AI) solutions in the Judiciary. Resolution No. 615/2025 mandates that all AI tools be supervised by humans, prohibits systems that prevent the review of automated decisions, and requires public indicators and reports on the use of these technologies [3].

Dra. Lilian Cristina Renna

References

[1] Roddenberry, Gene. Star Trek. NBC, 1966-1969. Série de televisão.

[2] Richardson, Rashida, Jason M. Schultz, and Kate Crawford. “Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice.” New York University Law Review Online, vol. 94, 2019, pp. 192-233.

[3] CONSELHO NACIONAL DE JUSTIÇA (Brasil). Resolução n. 615, de 11 de março de 2025. Estabelece diretrizes para o desenvolvimento, utilização e governança de soluções desenvolvidas com recursos de inteligência artificial no Poder Judiciário. Diário da Justiça do Conselho Nacional de Justiça, Brasília, DF, n. 54, p. 2-16, 14 mar. 2025.

Da Ficção à Realidade: Como Star Trek Previu os Desafios Éticos da IA nas Decisões Judiciais

Star Trek é uma das franquias de ficção científica mais icônicas da história da televisão. Criada por Gene Roddenberry, a série estreou em 8 de setembro de 1966, nos Estados Unidos, pela emissora NBC. A ideia de Roddenberry era apresentar um futuro em que a humanidade superara conflitos raciais, políticos e econômicos, explorando o espaço em paz e colaboração, o que resultou numa abordagem progressista e inovadora para a época. Durante a sua exibição original, de 1966 a 1969, Star Trek teve três temporadas e uma audiência média de 10 a 12 milhões de espectadores por episódio [1].

No episódio 20, intitulado “Court Martial”, o Capitão Kirk, comandante da nave interestelar USS Enterprise, enfrenta a corte marcial da Frota Estelar, sendo acusado de negligência e perjúrio. A acusação baseia-se inteiramente no testemunho da inteligência artificial do computador de bordo de sua espaçonave, revelando uma inquietante confiança cega na tecnologia em ascensão. No entanto, Spock, oficial de ciências da missão, descobre que o algoritmo da inteligência artificial foi manipulado, de maneira a incriminar seu comandante. O episódio exibido em 1967 antecipa debates atuais sobre falhas algorítmicas e o risco de condenações baseadas em dados incorretos, mostrando o perigo de aceitar decisões automatizadas sem verificação humana.

O episódio 20 de Star Trek, “Court Martial”, antecipou com espantosa precisão um risco atual: o uso de provas geradas por inteligência artificial em julgamentos. Hoje, a inteligência artificial é utilizada para prever reincidência criminal, sugerir sentenças ou validar provas digitais. No entanto, tal como o Capitão Kirk quase foi condenado por dados adulterados do computador da Enterprise, erros nos sistemas de IA podem levar a injustiças graves. Um algoritmo pode ser manipulado, mal programado ou apresentar viés, e se for aceito como verdade absoluta, sem revisão humana crítica, pode condenar inocentes [2]. O episódio mostra a importância da verificação humana e da capacidade de questionar a autoridade tecnológica.

A ficção de Star Trek funciona aqui como um alerta futurista cada vez mais atual. Assim como Spock provou que o computador estava corrompido, o sistema judicial moderno deve manter mecanismos de auditoria e contestação de provas algorítmicas, para garantir justiça real. Nesse contexto, o Conselho Nacional de Justiça (CNJ), estabeleceu diretrizes para o desenvolvimento, uso e governança de soluções de inteligência artificial (IA) no Poder Judiciário. A Resolução nº 615/2025 determina que todas as ferramentas de IA sejam supervisionadas por humanos, proíbe sistemas que impeçam a revisão de decisões automatizadas e exige indicadores e relatórios públicos sobre o uso dessas tecnologias [3].

Dra. Lilian Cristina Renna

Referências Bibliográficas

[1] Roddenberry, Gene. Star Trek. NBC, 1966-1969. Série de televisão.

[2] Richardson, Rashida, Jason M. Schultz, and Kate Crawford. “Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice.” New York University Law Review Online, vol. 94, 2019, pp. 192-233.

[3] CONSELHO NACIONAL DE JUSTIÇA (Brasil). Resolução n. 615, de 11 de março de 2025. Estabelece diretrizes para o desenvolvimento, utilização e governança de soluções desenvolvidas com recursos de inteligência artificial no Poder Judiciário. Diário da Justiça do Conselho Nacional de Justiça, Brasília, DF, n. 54, p. 2-16, 14 mar. 2025.