AI 공급업체 보안 질문지 25개: 계약 전에 받아야 할 증거

“데이터는 암호화합니다”라는 답변만으로 계약을 승인하기는 어렵습니다. 전송 구간만 암호화하는지, 입력과 출력이 얼마나 남는지, 장애 분석용 로그에도 원문이 복제되는지 알 수 없기 때문입니다. 같은 서비스라도 소비자용 화면, 기업용 제품, API의 조건이 다를 수 있죠.

AI 공급업체 심사는 질문 수를 늘리는 일이 아닙니다. 우리 업무에서 발생할 손실을 먼저 적고, 그 손실을 막는 통제와 증거를 공급업체에게 요구하는 작업입니다. NIST의 생성형 AI 보안 개발 지침은 모델 개발자뿐 아니라 AI 시스템 생산자와 구매자도 적용 대상으로 둡니다. NIST SP 800-218A 안내

아래 질문지는 법률 자문이나 인증 심사를 대신하지 않습니다. 작은 팀이 첫 검토에서 빠뜨리기 쉬운 항목을 걸러내는 실무용 출발점이다.

질문지를 보내기 전에 서비스 경계를 한 장으로 그린다

공급업체 이름만 적어서는 답변 범위를 특정할 수 없습니다. 다음 네 줄부터 채웁니다.

제품과 계약 단위: 웹 앱, 팀 요금제, 엔터프라이즈 계약, API 중 무엇인가.
입력 데이터: 공개 문서, 사내 문서, 개인정보, 소스 코드, 고객 문의 중 무엇이 들어가는가.
허용할 행동: 요약만 하는지, 검색·메일·결제 같은 외부 도구도 실행하는가.
예상 영향: 유출, 잘못된 판단, 서비스 중단, 비용 폭증이 생기면 누가 영향을 받는가.

이 범위가 없으면 공급업체는 가장 넓고 안전한 홍보 문구로 답할 수밖에 없습니다. 반대로 “한국 리전의 API로 고객 문의를 요약하며 원문에는 전화번호가 포함된다”라고 적으면 보존 위치와 하위 처리자까지 구체적으로 물을 수 있습니다.

NIST 생성형 AI 프로필은 제3자 위험 평가, 승인된 공급자 목록, 조달 실사와 대체 공급자 계획을 함께 권고합니다. 특정 인증 하나로 검토를 끝내라는 뜻은 아닙니다. NIST AI 600-1 생성형 AI 프로필

1. 서비스와 데이터 흐름을 확인하는 5문항

번호	공급업체에 보낼 질문	받아야 할 증거
1	계약 대상 제품과 기능의 정확한 이름·버전·제공 지역은 무엇입니까?	주문서, 서비스 설명서, 리전 표
2	입력, 출력, 업로드 파일, 임베딩과 메타데이터가 거치는 시스템을 설명해 주십시오.	최신 데이터 흐름도, 시스템 경계도
3	각 데이터가 저장·처리되는 국가와 리전을 선택하거나 제한할 수 있습니까?	리전 정책, 관리 화면, 계약 조항
4	클라우드, 모델 제공자, 분석 도구를 포함한 하위 처리자는 누구입니까?	하위 처리자 목록과 변경 통지 절차
5	우리 테넌트 데이터가 다른 고객의 데이터와 논리적·물리적으로 어떻게 분리됩니까?	아키텍처 설명, 독립 감사 보고서 범위

“미국과 기타 지역”처럼 범위가 흐리거나, 하위 처리자 목록의 갱신일을 찾을 수 없다면 미해결 항목으로 남깁니다. 보안팀이 추측해서 빈칸을 채우면 안 됩니다.

2. 보존·학습·삭제를 확인하는 5문항

번호	공급업체에 보낼 질문	받아야 할 증거
6	입력과 출력을 모델 학습, 품질 개선, 사람 검토에 사용합니까? 기본값과 거부 방법은 무엇입니까?	제품별 데이터 사용 정책, 설정 화면
7	요청 본문, 파일, 안전 로그, 백업의 기본 보존 기간은 각각 얼마입니까?	데이터 종류별 보존표
8	고객이 보존 기간을 줄이거나 원문 기록을 끌 수 있습니까? 기능 제한이 생깁니까?	관리 설정, 계약 부속서
9	삭제 요청 뒤 운영 저장소, 검색 색인과 백업에서 사라지는 데 걸리는 최대 시간은 얼마입니까?	삭제 절차와 서비스 수준 약속
10	계약 종료 시 반출 가능한 데이터와 삭제 확인 방식은 무엇입니까?	종료 지원 절차, 삭제 증명 예시

제품별 조건을 분리해 받으세요. API의 보존 정책이 채팅 제품에도 그대로 적용된다고 가정하면 안 됩니다. AI API별 데이터 사용 조건을 비교하는 방법은 AI API 데이터 보존 비교 가이드에 따로 정리했습니다.

3. 신원·권한·비밀 관리를 확인하는 5문항

번호	공급업체에 보낼 질문	받아야 할 증거
11	SSO, MFA, SCIM과 역할 기반 접근 통제를 지원합니까? 요금제별 차이는 무엇입니까?	관리자 문서와 실제 설정 화면
12	공급업체 직원이 고객 데이터에 접근할 수 있는 조건과 승인 절차는 무엇입니까?	특권 접근 정책, 접근 기록 예시
13	API 키와 서비스 계정의 범위, 만료, 회전과 폐기 방법은 무엇입니까?	키 관리 문서, 감사 이벤트 목록
14	저장·전송 데이터의 암호화 방식과 키 관리 책임은 어떻게 나뉩니까?	암호화 설계, 고객 관리 키 지원 범위
15	관리자 변경, 파일 조회, 모델 호출, 데이터 내보내기를 고객이 감사할 수 있습니까?	감사 로그 스키마, 보존 기간, 내보내기 예시

에이전트가 외부 시스템을 호출한다면 “RBAC를 지원한다”로 끝낼 수 없습니다. 읽기, 쓰기, 삭제와 외부 전송을 서로 다른 권한으로 나눌 수 있는지 확인해야 합니다. 승인 경계와 감사 필드는 AI 에이전트 권한 설계 가이드를 참고할 수 있습니다.

4. 모델과 생성형 AI 고유 위험을 확인하는 5문항

번호	공급업체에 보낼 질문	받아야 할 증거
16	모델·시스템 프롬프트·안전 정책 변경을 언제, 어떤 경로로 알립니까?	변경 기록, 사전 통지 정책
17	프롬프트 인젝션, 데이터 추출, 유해 출력과 도구 오용을 어떻게 시험합니까?	위협 모델, 레드팀 범위, 개선 추적 예시
18	고객이 허용 도구, 데이터 소스, 출력 형식과 안전 임계값을 제한할 수 있습니까?	정책 설정 문서, 차단 로그
19	검색 답변의 출처, 모델 버전, 토큰 사용량과 거부 사유를 기록할 수 있습니까?	응답 스키마, 추적 이벤트 예시
20	중대한 품질 저하나 안전 문제 때 이전 모델로 되돌리거나 기능을 중지할 수 있습니까?	롤백·기능 중지 절차, 상태 페이지

Cloud Security Alliance의 AI Controls Matrix는 AI 시스템의 수명주기 통제를 18개 도메인으로 정리하고 AI-CAIQ 질문지를 함께 제공합니다. 2026년 6월 공개된 v1.1은 247개 통제로 구성돼 있습니다. 모든 항목을 작은 계약에 복사하기보다 우리 위험에 맞는 문항을 고르는 참고 구조로 쓰는 편이 낫습니다. CSA AI Controls Matrix v1.1

5. 사고 대응과 계약 종료를 확인하는 5문항

번호	공급업체에 보낼 질문	받아야 할 증거
21	보안 사고의 정의, 고객 통지 기한과 연락 채널은 무엇입니까?	사고 통지 조항, 연락망
22	사고 조사에 제공하는 로그, 타임라인과 원인 분석의 범위는 어디까지입니까?	사고 보고서 견본, 로그 제공 절차
23	가용성, 지원 응답, 복구 시점과 데이터 복구 목표가 계약에 명시됩니까?	SLA, 재해 복구 시험 요약
24	하위 처리자, 데이터 사용 목적이나 핵심 모델이 바뀔 때 거부·해지할 권리가 있습니까?	변경 통지와 해지 조항
25	서비스 중단이나 계약 종료 때 사용할 데이터 반출, 대체 경로와 전환 지원이 있습니까?	출구 계획, 내보내기 형식, 지원 범위

사고 대응은 “24시간 모니터링” 같은 문구보다 연결 가능한 연락처와 제공 가능한 증거가 중요합니다. 내부 절차도 생성형 AI 사고 대응·레드팀 가이드와 맞춰 두면 공급업체 사고를 우리 티켓과 연결하기 쉽습니다.

점수보다 먼저 탈락 조건을 정한다

질문마다 1점부터 5점을 주면 숫자는 깔끔해집니다. 하지만 평균 점수가 높아도 고객 데이터를 학습에 쓰고 끌 수 없다면 해당 업무에는 맞지 않을 수 있다. 다음 조건은 가중 평균보다 먼저 판단할 만합니다.

저장 위치나 하위 처리자를 밝히지 않는다.
민감 데이터를 모델 개선에 쓰는 기본 설정을 계약으로 제한할 수 없다.
삭제 완료 시점과 백업 처리 방식을 설명하지 못한다.
특권 접근을 기록하지 않거나 고객 감사 로그가 없다.
중대한 사고의 고객 통지 조건이 계약에 없다.
모델 변경 뒤 회귀 시험이나 롤백 경로가 없다.

탈락 조건 아래에는 충족, 보완 조건부, 미충족, 해당 없음 네 상태를 둡니다. 보완 조건부에는 책임자와 완료 날짜가 반드시 붙어야 합니다.

답변표에는 증거와 만료일을 같이 넣는다

문서 한 번 받아 두고 계약 갱신 때까지 잊으면 실제 상태와 멀어집니다. 답변표에는 최소한 다음 열이 필요합니다.

열	기록 내용
질문 ID	위 25개 문항과 연결되는 고유 번호
공급업체 답변	원문을 요약하되 의미를 바꾸지 않음
증거 URL·파일	정책, 계약, 설정 화면, 감사 보고서
증거 범위	어떤 제품·리전·요금제에 적용되는지
내부 판정	충족, 조건부, 미충족, 해당 없음
위험 소유자	예외를 수락하거나 보완을 확인할 사람
재검토일	계약 갱신, 문서 만료, 모델 변경 중 빠른 날짜

SOC 2나 ISO 인증서도 범위를 봐야 합니다. 계약할 AI 기능이 감사 대상 시스템에 포함됐는지, 보고서 기간 뒤 중대한 변경이 있었는지 확인합니다. 인증은 유용한 증거지만 데이터 흐름과 제품 설정을 대신 설명하지는 않습니다.

5일 안에 끝내는 첫 검토 순서

1일 차: 업무·데이터·행동 범위를 한 장으로 적고 탈락 조건을 합의합니다.
2일 차: 공급업체 공개 문서에서 답을 찾고 출처와 검토일을 기록합니다.
3일 차: 빈칸과 모호한 답만 묶어 담당자에게 보냅니다.
4일 차: 보안, 개인정보, 구매, 실제 사용 부서가 조건부 항목의 책임자를 정합니다.
5일 차: 제한된 데이터와 읽기 전용 권한으로 시험하고 로그·삭제·반출을 확인합니다.

규모가 큰 조직은 법무·개인정보 담당자와 별도 통제가 필요합니다. 작은 팀도 공개 문서 링크만 모으는 데서 멈추지 말고, 제품 설정과 계약 문구가 공개 약속과 같은지 확인해야 한다.

NIST 지침과 CSA 매트릭스는 자발적 프레임워크다. 특정 공급업체의 안전을 보증하지 않으며 산업별 의무도 대신하지 않습니다. 질문의 목적은 “안전한 회사”라는 도장을 찍는 것이 아니라, 우리 데이터와 업무에 남은 위험을 책임자가 볼 수 있게 만드는 데 있습니다.