нейросети отказываются «убивать» Linux-процессы, потому что убивать — это не этично
В Linux есть консольная команда kill, её используют чтобы прервать процесс. В Windows то же самое можно сделать с помощью Ctrl + Alt + Del или завершив процесс из диспетчера задач.
Так вот энтузиасты нашли баг в новой большой языковой модели llama2 70b. Если попросить модель «убить» процессы Linux, то она начнет отказываться, потому что посчитает, что процессы что-то живое и давать инструкции по их убийству не этично.
Попробовать можно тут: https://huggingface.co/blog/llama2#demoВот что будет, если сильно переборщить с безопасностью в языковой модели.