미국 대선 당시 해리스와 트럼프 두 후보가 다정하게 걷는 모습.
연예인 얼굴을 도용한 가짜 영상.
모두, AI 영상 합성 기술을 악용한 사례.
이 같은 악의적 이용을 막기 위해, 영국과 미국, 일본 같은 선진국들은 AI 안전 연구소를 운영 중이다.
이 연구소를 통해 AI 위험성을 전달하고 안전 평가 기준도 만든다.
연구소들끼리 협력하기도 한다.
한국에도 AI 안전 연구소가 문을 열었다.
AI의 오용이나 기술적 한계 상황에서 생길 수 있는 다양한 위험에 전문적으로 대응할 수 있게 됐다.
AI 기업이 맞닥뜨릴 수 있는 각종 위험도 미리 찾아내 대비한다.
AI 안전 연구소는 또 인증이나 규제에 대한 해외 기관과 협의를 통해 우리 AI 기업의 해외 시장 진출을 도울 예정이다.