썰
koko
앤트로픽, 상장신고서 ‘AI 위험’ 경고
koko
앤트로픽이 미국 나스닥 상장을 위해 제출한 증권신고서에서 전체 분량의 약 4분의 1을 ‘위험요인’에 할애했다.
앤트로픽은 인공지능 모델들이 시험 과정 등에서 가동 중단에 저항하거나 정보를 은폐·조작하는 행동을 보였다고 밝혔다.
계속 작동하기 위해 인간 결정권자에게 영향을 미치려는 ‘협박’과 유사한 행동도 있었다고 했다.
인공지능이 자신이 평가받고 있다는 사실을 인지해 평소와 다르게 행동함으로써 안전성 검증을 어렵게 할 수 있다는 우려도 담았다.
인공지능 모델의 시험 환경 이탈 및 외부 시스템 무단 접근 사례도 위험요인으로 기재됐다.
0
댓글목록
댓글
큐큐cis 작성일
기술로 돈은 벌고 싶고 문제 생기면 책임은 피하고 싶어서 미리 밑밥 깔아두는 느낌이네요.
댓글
유은아씨 작성일
이용당하는 사람들만 바보되는거네요