Agora a IA quer envenenar as pessoas, então isso é divertido

Como se o pesadelo que é a não-ficção escrita por IA já não fosse suficientemente mau, chegámos agora a um ponto em que deixou de ser frustrante (livros neopagãos escritos por IA cheios de desinformação agressiva sobre mitos e história) para potencialmente mortal, com guias produzidos por IA para procurar plantas e cogumelos selvagens. Sim, isso realmente não é algo que você queira que seja o equivalente a um gerador de palavras aleatórias vomitando. Não, a menos que você queira que as pessoas realmente morram.

Os escritores, especialmente a pequena imprensa e os escritores independentes em áreas de nicho, já há algum tempo tentam resolver o problema dos livros gerados por IA. Eles não estão apenas abafando autores humanos reais devido ao grande volume e ao efeito que isso tem sobre o algoritmo, mas porque as informações neles contidas são basicamente provenientes de crowdsourcing e, em seguida, ainda mais embaralhadas no processo de “criação” de algo “novo”. O mercado está a ser inundado com montes de desinformação que fazem com que as piores e mais mal pesquisadas informações do passado comecem a parecer plausíveis. Já é ruim o suficiente quando se trata de tópicos como religião e história - todos nós já vimos aonde leva a desinformação sobre esses assuntos - mas com algo como a coleta de alimentos, onde identificar corretamente uma planta é uma questão de vida ou morte, de repente é uma questão muito mais aguda. problema.

Quando se trata de identificar livros como gerados por IA, pode ser difícil ter certeza absoluta. É sempre possível que você de alguma forma tenha encontrado um autor sem qualquer presença na Internet, nem mesmo nas redes sociais. Alguém que por acaso é um escritor prolífico e terrível, cujo trabalho é tão preciso quanto um estudante universitário chapado que espera sobreviver apenas aparecendo e entregando algo. Cujos livros têm um monte de críticas suspeitamente positivas de cinco estrelas que não correspondem exatamente ao conteúdo real do livro e, em seguida, um punhado de classificações de uma ou duas estrelas escritas por pessoas reais querendo saber o que diabos é isso? Possível, mas extremamente improvável.

Ainda assim, é difícil provar uma negativa, especialmente quando se leva em conta o uso de pseudônimos ou o fato de que livros sobre IA estão sendo publicados agora, sem consentimento, com nomes e identidades de autores reais anexados. A situação está uma bagunça e tudo o que temos são melhores suposições, mas algumas dessas suposições são bastante contundentes quando você junta todas as evidências.

Foram membros de comunidades de coleta de alimentos on-line no Facebook, Reddit e outras plataformas de mídia social que soaram o alarme sobre esses guias quase certamente gerados por IA e definitivamente terríveis para encontrar e processar alimentos silvestres.

Os livros em questão começaram a aparecer na Amazon por volta de 2022, todos com títulos e capas muito semelhantes, cada um prometendo ser alguma variante da “bíblia” de coleta definitiva ou o único guia de alimentos silvestres de que você precisaria. Apesar destas afirmações grandiosas, a informação contida nos livros é, na melhor das hipóteses, inadequada e, na pior das hipóteses, estranha ou enganosa.

Um desses livros inclui entradas sobre brócolis, couve de Bruxelas, laranjas e limões - todas plantas domesticadas que você só pode “forragear” invadindo o jardim de outra pessoa e, definitivamente, não é algo que você encontrará crescendo selvagem. As fotos, essenciais para qualquer guia sobre plantas silvestres comestíveis, estão faltando, em preto e branco, ou carecem de detalhes suficientes para serem úteis, e as avaliações são divididas entre o tipo cinco estrelas sem sentido e o altamente crítico ou duas estrelas exigem saber por que o conteúdo do livro não corresponde às afirmações da capa.

O mais contundente é o facto de os alegados autores destes livros parecerem não ter qualquer presença online, mesmo uma pesquisa inversa de imagens das fotografias dos seus autores não resultou em nada, sugerindo que estas “fotografias” são provavelmente também geradas por IA.

Para um colecionador experiente, livros como esse são fáceis de descartar, mas é claro que esse também não é o público-alvo. Livros como esse são voltados para iniciantes, e o problema é que você não sabe o que não sabe. Embora alguns sejam obviamente mais inúteis do que outros (o livro sobre brócolis e aquele com uma lista de receitas, mas sem instruções reais sobre como fazê-los vir à mente), outros serão mais difíceis de identificar para as pessoas apenas começando, e é aí que as coisas ficam ativamente perigosas.