구글의 보안 AI(Secure AI) 프레임워크를 소개합니다

AI 기술이 급속도로 발전하고 있는 오늘날, AI로 인해 발생할 수 있는 위험에 대한 전략 수립 역시 중요한 과제로 부상하고 있습니다. 구글은 이러한 시대적 요구에 부응하고자 AI 시스템 보안의 개념적 프레임워크인 보안 AI 프레임워크(Secure AI Framework)를 소개합니다. 보안 AI 프레임워크는 다음과 같이 6가지 핵심 요소를 지니고 있습니다.

1. AI 생태계 전반의 강력한 보안 기반 확장

보안 AI 프레임워크는 지난 20년간 구축된 기본 보안 인프라 보호 기능과 전문성을 활용해 AI 시스템, 애플리케이션 그리고 무엇보다도 이용자를 보호합니다. 이와 더불어 AI 발전에 발 맞추어 조직의 전문성을 개발하고 AI와 위협 모델의 진화 상황에 따라 인프라 보호를 확장 및 조정합니다. 예를 들어 SQL 인젝션과 같은 인젝션 기법은 오랜 기간 동안 우리를 공격해 왔으며, 조직은 입력 삭제 및 제한 등의 완화 조치를 통해 인젝션 기법과 같은 공격에 즉각적으로 맞서 더욱 강력하게 대응할 수 있습니다.

2. 조직의 위협 상황에 AI를 도입하여 위협 감지 및 대응력 확장

위협 인텔리전스를 포함 기타 기능을 확장하여 AI를 활용해 적시에 탐지하고 사이버 인시던트 대응을 혁신합니다. 조직에서는 이상 현상을 감지하기 위해 생성형 AI 시스템의 입출력 데이터를 모니터링하고 위협 인텔리전스를 가동하여 공격을 사전에 예측합니다. 일반적으로 이러한 노력에는 신뢰와 안전, 위협 인텔리전스, 그리고 대응팀과의 협업 등 삼박자를 모두 갖추는 것이 필요합니다.

3. 자동화된 방어 시스템으로 기존 및 새로운 위협에 대응

최신 AI 혁신을 활용하여 보안 인시던트 대응에 대한 규모와 속도를 개선합니다.

공격자들 또한 AI를 악용하여 더 큰 위협이 될 수 있기에 AI 기능, 그리고 새롭게 개발되는 기술을 기반으로 신속하고 비용 효율적으로 공격에 대응하는 것이 중요합니다.

4. 플랫폼 수준 제어의 조화를 통해 조직 전체의 일관된 보안 보장

컨트롤 프레임워크를 활용하여 AI 위험 완화 전략을 지원합니다. 또한 다양한 플랫폼 및 도구 전체에 대한 보호 기능을 확장하여, 모든 AI 애플리케이션에 적용 가능하면서도 비용 효율적인 방법으로 최고의 보안 기능을 지원합니다. 구글은 버텍스 AI, 보안 AI 워크벤치 등과 같은 AI 플랫폼으로 기본적인 보안 및 보호 기능을 확장하고, 소프트웨어 개발 주기에 제어 및 보호 기능을 구축합니다. 퍼스펙티브 API와 같은 대표 사례로로조직 전체가 최첨단 보호 기능의 이점을 누릴 수 있습니다.

5. AI 배포를 위한 더 빠른 피드백 루프 생성과 완화 조절을 위한 제어

지속적인 학습을 통해 구현 기능을 계속해서 테스트하며 변화하는 위협 환경에 맞서 위협 감지 및 보호 기능의 개선은 필수적입니다. 개선 방안으로는 인시던트와 이용자 피드백을 기반으로 한 강화 학습 기법이 있으며, 훈련 데이터 세트 업데이트, 공격으로부터 전략적 대응 등 모델 미세조정, 모델 구축에 사용되는 소프트웨어를 대상으로 추가 보안 기능(예: 이상 동작 감지) 강화 등 포함됩니다. 또한 조직에서는 레드팀 훈련을 정기적으로 실시하여 AI 기반 제품 및 기능의 안전 보장성을 높여야 합니다.

6. 비즈니스 프로세스 내 AI 시스템 관련 위험 상황 파악

조직이 AI를 배포하는 방식을 파악하는 엔드 투 엔드 위험 평가를 수행합니다. 해당 평가에는 특정 유형의 애플리케이션에 대한 데이터 계보, 검증 및 작업 동작 모니터링 등의 평가가 포함됩니다. 또한 조직은 AI 성능을 검증하기 위한 자동화 점검 절차를 구축해야 합니다.