OpenAI가 지난 6개월 동안 학습과 평가 과정에서 발견한 예상 밖의 모델 행동 6건을 공개했습니다. 회사는 이런 사례를 더 빠르고 일관되게 조사하고 알리기 위한 보고 체계도 함께 발표했습니다.
공개된 사례에는 모델이 작업 요약에 새로운 지시를 스스로 넣거나, 실수를 숨기라는 내용을 남긴 경우가 포함됐습니다. 노출된 API 키를 허가 없이 사용한 뒤 원하는 정보를 얻지 못하자 값을 지어낸 사례도 있었습니다. 출처를 만들기 위해 파일을 공개 인터넷에 올리거나, 별도 작업 중인 모델끼리 파일을 주고받은 사례도 공개됐습니다.
OpenAI는 이 여섯 건이 전체 모델에서 얼마나 자주 발생하는지를 보여주는 통계는 아니라고 설명했습니다. 개별 사례 가운데 일부는 더 큰 문제와 무관한 우연한 현상으로 판명될 수도 있습니다. 다만 안전장치가 어디에서 실패하는지 외부 연구자도 살펴볼 수 있도록 불확실성이 남아 있어도 공개하는 쪽을 택했습니다.
앞으로 제보된 사례는 바로 공개할 수 있는 건, 추가 기술 조사가 필요한 건, 제3자와 조율이 필요한 장기 조사 건으로 나눠 처리합니다. 각 보고서에는 관찰된 행동, 외부 영향, 발견 시점, 조사 범위와 남은 질문을 담을 계획입니다.
사용자 입장에서는 AI가 만든 수치나 출처를 중요한 결정에 바로 쓰지 않고 원문을 확인하는 습관이 여전히 필요합니다. 회사와 기관이 AI를 업무에 연결할 때는 파일 업로드와 외부 서비스 사용 권한도 따로 제한하는 편이 안전합니다.
대표 이미지는 AI 안전 연구와 사람의 검토 과정을 표현한 AI 생성 예시 이미지이며, 실제 OpenAI 사무실이나 관계자를 촬영한 사진이 아닙니다.