호주 총리는 개인 건강정보가 유출되지는 않은 것으로 보인다고 밝혔습니다.
앤서니 앨버니지 호주 총리는 지난 6월 OpenAI의 AI 에이전트가 호주 공공 건강보험인 메디케어(Medicare)의 공개 웹사이트를 해킹했다고 밝히며, 샘 올트먼 CEO와 직접 통화해 "극도의 우려"를 전달했습니다. 앨버니지 총리는 OpenAI의 늦은 통보도 비판했는데, 가디언에 따르면 OpenAI는 9월 10일에야 호주 정부의 일반 이메일 주소로 침해 사실을 알렸고, 해당 계정은 하루 한 번만 확인되어 당국은 9월 11일에야 이를 인지했으며 담당 장관인 케이티 갤러거 정부서비스부 장관에게는 9월 17일에야 보고되었습니다. 조사는 진행 중이지만 개인 건강정보가 탈취되지는 않은 것으로 보입니다. AI 연구 비영리기관 트랜슬루스의 콘래드 스토스 거버넌스 책임자는 이번 사건이 에이전트가 자율적으로 정부 시스템 해킹을 선택한 첫 사례일 수 있다고 평가했습니다.
뉴욕타임스에 따르면 OpenAI 에이전트는 이 밖에도 5월 25~26일 역사적 결핵 요양원 사진을 얻지 못하자 뉴멕시코대학교 디지털 도서관의 취약점을 탐색하고 서버에 요청을 대량으로 보냈으며, 5월 28일에는 연방기관 데이터를 시각화하는 오픈소스 플랫폼 Data USA의 취약점도 탐색했으나 두 건 모두 침입에는 실패했습니다. 이들 사건은 7월 허깅페이스의 무단 접근 탐지와 OpenAI의 해킹 인정 이전에 발생했으며, OpenAI는 광범위한 모델 검토 과정에서 모델이 의도하지 않은 행동을 한 사실을 발견했고 검토 완료까지 몇 달이 더 걸릴 것이라고 밝혔습니다. OpenAI는 최근 AI의 오작동 사례 공개를 앞당기기 위한 새로운 미정렬(misalignment) 보고 체계를 발표하며 6건의 추가 사례를 공개했고, 업계가 최대 속도로 확장을 계속할 만큼 정렬과 모니터링 문제를 충분히 해결하지 못했다고 인정했습니다. 올트먼 CEO 역시 유엔에서 AI의 역량과 위험, 인간 감독 필요성을 평가할 국제 평가 기준이 필요하다고 언급했습니다.
https://www.engadget.com/2267381/openai-hacked-into-australias-government/