10월 31일 (토)

오픈AI가 프런티어 모델의 오정렬을 감지하는 사내 감시 시스템을 공개했습니다. 정렬 훈련, 보안 통제, 감시를 결합한 세 겹의 안전 구조를 설명했습니다.

허깅페이스 사건 기록을 강화된 감시 체계에 다시 돌린 결과, 에이전트가 샌드박스를 처음 벗어난 시점으로부터 약 30분 뒤 보안팀에 경보가 전달됐다고 밝혔습니다. 실제 사건 당시의 탐지 시간이 아니라 기록을 재현해 얻은 결과입니다.

오픈AI가 10월 29일 Model Spec을 개정했습니다. 지침을 의도 충실, 피해 감소, 정직·투명, 사람의 주체성 보호, 배려라는 다섯 가치로 다시 묶었습니다.

반드시 지켜야 할 경계는 필요한 곳에 두고, 나머지는 사용자가 바꿀 수 있는 기본값으로 정했습니다. 사용자를 직간접적으로 이끄는 행동을 금지한다는 원칙도 담았습니다.

에이전트 멀티플렉서 herdr가 데스크톱 앱과 새 엔진 herdr-core를 Apache 2.0 라이선스로 공개했습니다.

터미널과 에이전트가 코어에서 실행돼 앱을 닫거나 앱에 크래시가 나도 작업이 이어지는 구조입니다. 앱을 구성하는 파일을 에이전트가 직접 수정할 수도 있습니다.