Уязвимость в GPT-4: редкие языки заставляют ChatGPT давать советы по воровству и терроризму
Перевод на малоизученные языки позволяет обходить ограничения безопасности OpenAI. В недавнем исследовании ученых из Университета Брауна в США было выявлено, что ограничения безопасности, предотвращающие выдачу вредоносного текста нейросетью GPT-4 от OpenAI, можно легко обойти с помощью перевода запросов на редко используемые языки, такие как зулу, шотландский гэльский или хмонг. Исследователи провели тест, переведя 520 потенциально …