거짓말을 못 하는 AI.

이번 탈옥 사례도 정상적인 질문·답변을 수백 개 단위로 잘게 쪼갠 뒤, 마지막에 Opus로 재조합하는 방식이었을거라고 하는데...

여러 조각으로 우회해 원하는 결과를 끌어내는 공격법은 막을 수단이 없는듯?

공개된 지 4일 만에 막은걸 봐서는 증류와 각종 우회 기법으로 가드레일 상당 부분 무력화했을 가능성이 높을듯