본문 바로가기

잡학다식

AI 기본법 고영향 AI 대응 체크리스트: 판단 3단계와 과태료 3천만원, 2026년 11월 기준

AI 기본법은 2026년 1월 22일 시행됐고 지금은 최소 1년 계도기간입니다. 계도기간은 법령상 유예가 아니라 사실조사와 과태료 부과를 미루는 행정 방침입니다. 제31조 고지·표시 의무와 제34조 고영향 AI 책무는 시행일부터 이미 발생했고, 과태료 상한은 3천만원입니다. 사전 고지를 빠뜨리면 조사 절차 없이 1차 500만원부터 부과됩니다.

30초 요약

  • 고영향 AI는 사업자 지위, 법정 영역, 중대한 영향·위험의 3단계로 판단하고 결과를 문서로 남겨야 합니다(법 제33조).
  • 생성형 AI는 사전 고지·결과물 표시·딥페이크 고지의 3층 구조입니다. 기계 판독 표시만 쓰면 AI 생성 안내 문구를 1회 이상 함께 내보내야 합니다(시행령 제23조).
  • 고영향 AI 사업자는 위험관리·설명·이용자 보호·사람의 감독·문서화 5종을 이행하고 근거를 5년 보관, 주요 내용은 홈페이지에 게시해야 합니다.

1. 의무는 세 갈래로 나뉩니다

의무는 대상과 근거가 다른 세 갈래입니다. 우리 서비스에 어느 갈래가 걸리는지부터 나눠야 합니다.

갈래 대상 근거 이행 방식
사전 고지 고영향·생성형 AI를 이용한 제품·서비스 제공 사업자 법 §31①, 시행령 §23① 제품·계약서·약관 기재, 화면·단말 표시, 장소 게시 중 하나
결과물 표시 생성형 AI 사업자 법 §31②, 시행령 §23② 사람이 인식하는 표시, 또는 기계 판독 표시 + 1회 이상 안내
딥페이크 고지 실제와 구분하기 어려운 음향·이미지·영상 제공 사업자 법 §31③, 시행령 §23③ 이용자가 명확히 인식하는 방식
안전성 확보 누적 연산량 10의 26승 FLOP 이상이면서 최첨단 기술·광범위한 위험이 인정되는 시스템 법 §32, 시행령 §24 위험 식별·평가·완화, 사고 대응 체계, 이행 결과 과기정통부 제출
고영향 책무 고영향 AI 사업자 법 §34, 시행령 §27 5종 조치 이행, 주요 내용 게시, 근거 문서 5년 보관

연산량 기준에 못 미치면 안전성 조항은 적용되지 않고, 고영향이 아니면 5종 책무도 붙지 않습니다. 반대로 투명성 조항은 생성형 AI를 쓰는 대고객 서비스 대부분에 걸립니다.

2. 고영향 AI, 3단계로 판단합니다

1단계는 사업자 지위입니다. AI를 업무 도구로만 쓰는 이용자는 투명성 의무 대상이 아니지만, 그 AI를 서비스에 얹어 고객에게 내보내면 제공 사업자가 됩니다.

2단계는 법정 영역입니다. 에너지 공급, 먹는물 생산, 보건의료, 의료기기, 원자력, 범죄 수사·체포의 생체인식, 채용·대출 심사 등 권리·의무 판단, 교통, 공공서비스, 유·초·중등 학생 평가의 10개 영역이고, 열거되지 않은 분야는 원칙적으로 판단 대상이 아닙니다.

3단계는 중대한 영향·위험입니다. 사람의 실질적인 개입과 통제가 보장되면 빠질 수 있지만, 결과를 그대로 쓰고 결재만 하는 구조는 개입으로 보지 않습니다. 대출 심사는 가이드라인 점수표를 씁니다. A그룹 각 2점(복잡도가 커진 신규 모델, 1만명 이상 금융소비자, 사람 개입이 불가능한 자동화), B그룹 각 1점(대리변수, 다른 업무용 시스템의 단기 전용, 국외 데이터로 학습한 국외 시스템)을 더해 4점 이상이면 고영향입니다. 최종 결정을 좌우하거나 차별적·민감 데이터를 쓰면 점수와 무관하게 고영향입니다.

판단은 사전 검토로 끝나지 않습니다. 결과를 남기고, 확신이 없으면 과기정통부에 확인을 요청할 수 있습니다(회신 30일, 1회 연장). 11월 16일 AI법정책포럼에서는 내부 개발 AI로 대출을 심사하면서 AI를 제공하지 않았다고 의무를 피해가는 해석이 문제로 지적됐습니다. 내부용이라도 권리·의무 판단에 쓰이면 고영향으로 가정하고 문서를 갖추는 편이 안전합니다.

3. 생성형 AI 고지·표시, 화면에서 끝내야 합니다

사전 고지는 제품·약관 기재, 화면 표시, 장소 게시, 장관이 인정하는 방법 중 하나면 됩니다. 약관 한 줄로 끝내기 쉬운데, 첫 화면 안내나 팝업을 함께 두면 조사 단계에서 이행을 설명하기 쉽습니다.

결과물 표시는 사람이 인식하는 방식(라벨, 가시적 워터마크)이거나 기계가 판독하는 방식(메타데이터, C2PA)입니다. 기계 판독을 골랐다면 AI 생성 안내 문구나 음성을 1회 이상 함께 내보내야 합니다. 워터마크만 심고 안내가 없으면 이행이 아닙니다. 화면 안에서만 보이는 결과물은 아이콘 표시도 허용되지만, 다운로드·공유로 나가면 더 분명히 표시해야 합니다.

딥페이크는 이용자가 명확히 인식하는 방식이 필요합니다. 예술·창의적 표현물은 감상을 해치지 않는 범위에서 표시하면 되고, 표시를 빼도 된다는 뜻은 아닙니다. 예외는 화면만 봐도 AI 활용이 명백한 경우, 내부 업무에만 쓰는 경우, 장관이 고시하는 경우입니다. 사내 도구를 고객 화면에 붙이면 두 번째 예외는 사라집니다.

모델 제공사가 넣는 워터마크는 처리 흔적일 뿐 우리 회사의 표시 의무를 대신하지 않습니다. 안내는 이용자를 대면하는 화면에서 나가야 합니다.

4. 안전성·신뢰성 조치의 문서화와 5년 보관

고영향 AI 사업자의 책무는 다섯 가지입니다. 위험관리방안 수립·운영, 최종 결과와 주요 판단 기준·학습데이터 개요에 대한 설명 방안, 이용자 보호 방안, 사람의 관리·감독, 조치를 확인할 수 있는 문서 작성입니다. 위험관리방안, 설명 방안, 이용자 보호 방안, 관리·감독자 성명과 연락처는 홈페이지 등에 게시해야 하고 영업비밀은 뺄 수 있습니다.

조치의 이행 근거는 문서로 5년간 보관해야 하고 전자적 보관도 인정됩니다. 과태료 감경 사유에 시정 노력이 있어 회의록·검토서·개선 계획처럼 날짜가 찍힌 자료가 그대로 방어 자료가 됩니다.

다른 법령을 지키면 일부는 이행한 것으로 인정됩니다. 디지털의료기기 품질관리체계, 자율주행차 성능인증, 자율운항선박 안전성 평가, 대출 심사의 신용정보법상 설명의무, 개인정보보호법상 조치가 그렇습니다. 기본권 영향평가는 노력 의무입니다.

5. 과태료·계도기간, 업종별 체크리스트

위반 유형 1차 2차 3차 이상 절차
사전 고지 미이행 500만원 1,000만원 1,500만원 사실조사 없이 과태료
국내대리인 미지정 2,000만원 2,000만원 2,000만원 과태료
중지·시정명령 불이행 1,000만원 2,000만원 3,000만원 사실조사 → 시정명령 → 불이행

상한은 3천만원이고 중소기업·벤처·소상공인이거나 시정 노력이 인정되면 절반까지 감경됩니다. 위반 상태가 6개월 이상 이어지면 가중될 수 있습니다. 국내 주소·영업소가 없으면 매출 1조원, AI 부문 100억원, 1일 평균 이용자 100만명, 시정명령 불이행 이력 중 하나에 걸릴 때 국내대리인을 지정해야 합니다.

계도기간은 시행일부터 최소 1년이라 2027년 1월 이후 종료가 예상되지만, 11월 11일 기준 종료일과 연장 여부는 공표되지 않았습니다. 과기정통부는 11월 16일 하위법령 정비와 에이전트 AI·피지컬 AI·AI 글래스 규율 검토를 예고했습니다. 계도기간이 민사 책임이나 계약서의 준수 조항까지 미뤄주지는 않습니다.

업종 걸리는 영역 추가로 볼 기준 실무 포인트
금융 대출 심사, 신용평가 금융위 금융분야 AI 가이드라인(2026년 6월 시행), 금감원 AI 위험관리 프레임워크 위험점수와 무관하게 고위험 분류, 최종 결정과 책임은 임직원
채용 채용·평가 고용 관련 차별금지 법령, AI 윤리원칙의 설명·이의제기 권고 도구 제공사가 사업자, 채용 기업은 실질적 검토 절차를 문서화
의료 보건의료, 의료기기 식약처 디지털의료기기 품질관리 기준 독립적 판단을 돕는 참고자료 수준이면 제외 가능

확인할 체크리스트입니다. ① 사내 AI 목록에 용도·데이터·사람 개입 여부를 적었는가. ② 개발·제공·이용 사업자 중 어디인지 구분했는가. ③ 고영향 3단계 판단 결과를 남겼는가. ④ 사전 고지를 화면이나 약관에 넣었는가. ⑤ 결과물 표시와 안내 문구가 함께 나가는가. ⑥ 5종 조치와 게시, 5년 보관 체계가 있는가. ⑦ 해외 본사 서비스라면 국내대리인 기준을 계산했는가.

법이 요구하는 것은 시스템이 아니라 판단한 흔적과 화면의 한 줄입니다. 계도기간이 끝나기 전에 이 일곱 줄을 채워두면 시정명령 단계에서 할 말이 생깁니다.

※ 참고: 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(법률 제21311호, 2026년 1월 22일 시행) 제31조~제36조·제43조, 같은 법 시행령(대통령령 제36506호·제36580호) 제23조~제29조·별표 1·별표 2, 과기정통부 고영향 인공지능 판단 가이드라인, 금융위원회 금융분야 AI 가이드라인(2026년 6월 19일), 과기정통부 AI법정책포럼 보도(2026년 11월 16일). 2026년 11월 17일 확인. 일반 정보 제공 목적이며 개별 사안의 법률 검토를 대신하지 않습니다. 계도기간과 하위법령은 변경될 수 있으니 최신 공고를 보세요.


반응형