AI 안전 조치와 윤리 기준을 강조하는 OpenAI
개발의 모든 단계에서 안전 예방 조치를 포함하는 데 중점을 두고 있는 OpenAI는 매우 강력하면서도 안전한 AI 모델을 만들고 제공하는 데 전념하고 있습니다. 현재 모델과 미래의 첨단 기술을 통합하기 위해 다양한 기간에 걸쳐 안전에 투자하는 것이 중요하다는 점을 강조하고 있습니다. 오픈AI는 AI 서울 서밋에서 업계 전문가들과 AI 안전에 대해 이야기를 나누고, 대비 프레임워크와 같은 안전 프레임워크를 발표하는 등 추가적인 안전 약속을 했습니다. 이러한 이니셔티브는 창의적이고 신뢰할 수 있으며 사회에 유익한 AI 시스템을 개발하기 위한 OpenAI의 노력의 일환입니다.
이 조직은 실증적 모델 레드팀과 출시 전 테스트 등 내부 및 외부에서 모델 안전성을 평가하는 여러 안전 절차를 사용합니다. 시간이 지남에 따라 OpenAI가 수행한 정렬 및 안전성 연구는 모델 안전성을 크게 향상시켜 실수가 적고 해로운 콘텐츠를 생성할 가능성이 적은 점점 더 지능적인 모델로 발전했습니다. 또한 안전 위험 모니터링을 위한 맞춤형 모델 및 조정 모델과 같은 다양한 기술을 사용하여 오용을 감시하고 있습니다. 이러한 절차를 따르면 모델을 사용하기 전에 가능한 위험을 발견하고 제거할 수 있습니다.
선거 무결성과 아동 보호는 OpenAI의 최우선 과제 중 하나입니다. 미성년자에 대한 잠재적 위험을 줄이기 위해 ChatGPT와 DALL-E에 강력한 안전장치를 추가했습니다. 또한, 아동 성학대가 포함될 수 있는 콘텐츠를 식별하고 신고하기 위해 Thorn과 같은 단체와 협력하고 있습니다. OpenAI는 정부 및 이해관계자들과 협력하여 선거의 공정성을 유지하기 위해 AI가 생성한 자료의 남용을 막고 투명성을 보장하기 위해 노력하고 있습니다. AI 사용의 윤리적 기준을 유지하기 위한 노력의 일환으로, DALL-E 3에서 생성된 사진을 식별하고 초당적인 ‘기만적인 AI로부터 선거 보호법’을 지지하는 등의 조치를 취했습니다.
또한 OpenAI는 데이터, 고객, 지적 재산을 보호하기 위해 액세스 제어 및 보안 조치를 최우선시합니다. 여기에는 버그 바운티 프로그램 관리, 내부 및 외부 침투 테스트 수행, 교육 환경에 대한 액세스 제한 등이 포함됩니다. 또한 전 세계 정부와 협력하여 AI 안전 정책 수립에 정보를 제공하고, 이사회 감독 및 다양한 분야의 자문 위원회가 안전 관련 의사 결정에 참여하도록 하고 있습니다. OpenAI의 방법론의 목표는 지능적인 공격에 저항하는 강력한 인공지능 시스템을 만드는 것입니다. 모델이 개선됨에 따라 방법론을 더욱 개선할 계획입니다.