Нейросеть от Google едва не убила человека, посоветовав ему приготовить чесночный соус с бактерией ботулизма

Нейросеть порекомендовала пользователю Reddit приготовить заправку из чеснока по рецепту, провоцирующему ботулизм.

Нейросеть Gemini от Google едва не убила человека, посоветовав ему «улучшить» оливковую заправку с чесноком опасным биотоксином, провоцирующим развитие ботулизма. На вопрос о том, можно ли добавить к оливковому маслу чеснок без нагрева, нейросеть предоставила пользователю целый план действий, итоговым пунктом которого стало получение культуры с бактериями Clostridium botulinum.

Всего в инструкции по приготовлению чесночной заправки от нейросети пять пунктов, третий и четвертый из которых – самые опасные. Gemini посоветовала смешать чеснок и масло, а после дать получившейся заправке настояться как минимум неделю. Пользователь программы исправно выполнял пункт за пунктом, не чувствуя подвоха, а спустя время заметил, что вместо ожидаемой заправки с чесноком получил оливковый соус с токсином ботулизма.

– Я выполнил эти пункты, но случайно через 3-4 дня проверил свою банку и увидел там крошечные пузырьки карбонизации, быстро поднимающиеся повсюду. Я подумал, что это может быть просто частью процесса, но дважды проверил с помощью поиска в Google на седьмой день (когда в контейнере вообще не было пузырьков). Оказывается, я только что вырастил культуру ботулизма, и чеснок в оливковом масле – довольно распространённый способ выращивания этих биотоксинов, – написал пользователь Reddit под ником Puzzleheaded_Spot401.