Jesper Bengtson
En 67-årig sesamodlare i Kina följde AI:ns bekämpningsplan och förlorade skörden på en natt.
Bonden, som bara omnämns med efternamnet Wu, hade under nästan ett år lutat sig mot en AI-chattbot för råd om sin sesamodling i Chuzhou i den kinesiska provinsen Anhui. När han bad om en samlad plan för att bekämpa ogräs och skadedjur laddade han in den föreslagna kemikaliecocktailen i sin sprutdrönare och besprutade hela fältet. Dagen efter var samtliga plantor på cirka tio hektar döda, rapporterar IBTimes med hänvisning till den taiwanesiska publikationen CTWANT.
Till kinesiska medier gav Wu i efterhand en kort varning till andra bönder: sprutar man ut den föreslagna blandningen är plantorna döda dagen efter, enligt Futurism. Både ogräs och sesamplantor slogs ut samtidigt.
Ett medel för sojabönsodlingar hamnade på sesamen
Kärnfelet handlade om en enda molekyl. AI-verktyget rekommenderade flufenacet, ett herbicid som är utvecklat för att slå ut bredbladigt ogräs i sojabönsodlingar och som enligt chattbotens egen förklaring dessutom bara ska sprutas direkt på de drabbade fläckarna, inte över hela fältet, skriver TechSpot. Problemet är att sesamplantan i sig är bredbladig, så den slogs ut lika snabbt som ogräset.
AI-företaget: Vi har ingen egen agronomisk databas
Wu hade inte konsulterat någon lantbrukstekniker innan han fyllde drönaren. När historien nådde AI-leverantören lämnade företagets support ett förklarande men avvärjande svar: systemet har ingen egen, verifierad databas för lantbruk utan sammanfattar bara offentligt tillgängligt material från internet, och användare uppmanas att stämma av med lokala experter innan de agerar på råden, uppger IBTimes.
Att en språkmodell hallucinerar innebär i praktiken att den producerar text som ser rimlig ut men saknar täckning i verkligheten. Det är ett känt problem för allmänna chattbotar när användaren pressar dem in i domäner med hårda praktiska konsekvenser, som medicin, juridik eller växtskyddsmedel. Wu hade ändå fått vettiga svar under månaderna dessförinnan om gödsling och tidpunkter, vilket byggde upp hans förtroende innan katastrofrådet kom.
Så här kan du själv undvika samma fälla
För den som använder ChatGPT, Gemini, Copilot eller kinesiska motsvarigheter till praktiska beslut finns några konkreta lärdomar från Chuzhou. Fråga aldrig en generell chattbot om exakta doseringar av kemikalier, mediciner eller något annat där ett felaktigt svar kan orsaka fysisk skada. Kontrollera alltid produktnamn mot etiketten och tillverkarens datablad, och stäm av med en fackperson eller en officiell källa innan en drönare startas eller en flaska öppnas.
