AI 기본법 개정안 7월 21일 시행: 생성형 AI 표시와 기업 대응 총정리

한 줄 요약: AI 기본법 개정 내용이 시행되면서 생성형 AI 표시, 고영향 AI 관리, 공공조달 지원과 기업의 준수 의무가 본격적인 실무 과제가 됐다.

메타 설명: 2026년 7월 21일 시행된 AI 기본법 개정안의 핵심 내용을 정리합니다. 생성형 AI 표시, 고영향 AI, 기업 대응과 이용자 변화를 확인하세요.

 

2026년 7월 21일부터 한국의 AI 기본법 개정 내용이 시행됐다. 이제 인공지능을 개발하거나 서비스에 적용하는 기업은 단순히 성능 좋은 모델을 만드는 것뿐 아니라, 이용자에게 AI 사용 사실을 알리고 위험을 관리하는 체계를 함께 갖춰야 한다.

이번 변화는 규제만 강화한 조치로 보기는 어렵다. 생성형 AI와 고영향 AI에 관한 책임을 구체화하는 동시에 AI 제품 확인제도, 공공조달 우대와 산업 지원 수단도 확대했기 때문이다. 핵심은 AI를 막는 것이 아니라, 시장에서 사용할 수 있는 신뢰 기준을 만드는 데 있다.

AI 기본법 개정안이 지금 주목받는 이유

가장 직접적인 이유는 시행일이다. 국가법령정보센터에는 일부 개정된 AI 기본법이 2026년 7월 21일부터 시행되는 것으로 명시돼 있다. 법률 문구가 정책 논의 단계를 넘어 실제 기업 운영과 서비스 설계에 적용되기 시작한 것이다.

그동안 기업들은 생성형 AI 표시 방식, 고영향 AI 판단 기준과 해외 사업자 적용 범위가 명확하지 않다고 지적해왔다. 시행 이후에는 각 기업이 자신의 서비스가 법률상 어떤 범주에 속하는지 판단하고 기록을 남기는 일이 중요해진다.

AI 기본법이란 무엇인가

정식 명칭은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이다. 법의 목적은 AI 산업의 발전을 촉진하면서 국민의 권익과 존엄성을 보호하고 신뢰할 수 있는 AI 환경을 구축하는 것이다.

이 법은 AI 사업자에게 동일한 수준의 의무를 일괄 적용하지 않는다. 서비스의 위험도와 이용 분야에 따라 투명성, 안전성, 인간 감독과 설명 책임을 다르게 요구하는 구조다.

따라서 단순한 사진 보정 앱과 대출심사 AI가 같은 수준의 위험관리 의무를 지는 것은 아니다. 금융, 의료, 채용, 교통과 같이 개인의 권리나 안전에 큰 영향을 줄 수 있는 영역은 더 엄격하게 관리된다.

생성형 AI 표시 의무는 무엇이 달라지나

AI가 만든 콘텐츠를 사람이 직접 제작한 것처럼 오인할 가능성이 있다면, 이용자가 AI 생성물이라는 사실을 알 수 있도록 표시해야 한다.

표시는 서비스 시작 화면의 안내, 콘텐츠 주변의 문구, 워터마크, 메타데이터 또는 음성 고지와 같은 방식으로 구현될 수 있다. 실제 적용 방식은 콘텐츠의 형태와 오인 가능성에 따라 달라진다.

특히 실제 사람의 음성이나 외모와 유사한 딥페이크, 뉴스처럼 보이는 영상, 전문가가 직접 말한 것처럼 구성한 광고는 일반적인 창작 이미지보다 명확한 표시가 필요할 가능성이 높다. 한국의 AI 규제 체계는 실제와 혼동될 수 있는 콘텐츠에 시각적 또는 청각적 표시를 요구하는 방향으로 설계돼 있다.

개인 이용자가 취미로 이미지를 생성하는 행위보다 AI 서비스를 제공하거나 콘텐츠를 상업적으로 유통하는 사업자의 책임이 더 중요하다.

고영향 AI란 무엇인가

고영향 AI는 사람의 생명, 신체 안전 또는 기본권에 중대한 영향을 미칠 수 있는 영역에서 활용되는 AI를 의미한다.

대표적으로 의료 진단, 신용평가, 대출심사, 채용, 교통안전, 원자력 안전과 식수 관리 같은 분야가 논의된다. 이런 시스템은 단순한 추천 기능과 달리 잘못된 판단이 개인의 치료, 취업, 금융 접근성과 안전에 직접적인 피해를 줄 수 있다.

고영향 AI를 운영하는 기업은 위험관리 절차, 데이터 관리, 인간의 개입 가능성, 이용자 고지와 설명 체계를 준비해야 한다. 중요한 의사결정을 AI에 완전히 맡기는 것이 아니라 사람이 검토하고 수정할 수 있어야 한다는 의미다.

기업은 무엇을 준비해야 하나

첫 번째는 AI 기능 목록화다. 기업 내부에서 사용하거나 고객에게 제공하는 AI 기능을 모두 정리해야 한다. 외부 API나 생성형 AI 서비스를 연결한 기능도 포함해야 한다.

두 번째는 위험도 분류다. 단순 업무지원 도구인지, 개인의 권리와 안전에 영향을 미치는 고영향 AI인지 구분해야 한다.

세 번째는 표시 방식 점검이다. 이용자가 AI와 상호작용하고 있다는 사실과 콘텐츠가 AI로 생성됐다는 사실을 언제, 어디에서, 어떤 문구로 알릴지 결정해야 한다.

네 번째는 기록 관리다. 사용한 모델, 데이터 출처, 업데이트 이력, 오류 대응, 담당자와 인간 검토 절차를 문서화해야 한다.

다섯 번째는 협력업체 관리다. 외부 AI 모델을 사용하더라도 최종 서비스를 제공하는 기업의 책임이 사라지는 것은 아니다. 계약서에서 데이터 처리, 오류 대응과 법적 책임을 확인해야 한다.

스타트업이 우려하는 이유

대기업은 법무, 보안, 데이터와 품질관리 조직을 별도로 운영할 수 있지만 스타트업은 같은 대응을 소수 인력이 담당해야 한다.

법률이 원칙 중심으로 구성된 경우 기업은 자신의 서비스가 고영향 AI에 해당하는지 스스로 판단해야 한다. 판단 기준이 명확하지 않으면 규제를 과도하게 회피하거나, 반대로 필요 이상으로 많은 비용을 투입할 수 있다.

국내 AI 스타트업들은 법률의 취지에는 동의하면서도 모호한 기준과 행정 부담이 혁신을 늦출 수 있다고 우려해왔다. 반대로 시민사회에서는 이용자 보호와 피해 구제 장치가 충분하지 않다는 비판도 제기됐다.

공공조달과 산업지원은 어떻게 바뀌나

이번 개정은 기업 의무만 강화한 것이 아니다. 정부가 AI 제품과 서비스를 확인하고 공공기관 조달 과정에서 활용할 수 있도록 지원하는 제도도 포함한다.

확인을 받은 AI 제품은 공공조달 계약 과정에서 참여 조건 완화나 평가상 혜택을 받을 수 있다. 이는 초기 고객을 확보하기 어려운 AI 기업에 새로운 시장이 될 수 있다.

다만 정부 확인을 받았다는 사실이 제품의 정확성이나 안전성을 영구적으로 보증하는 것은 아니다. 기업은 실제 운영 과정에서 성능과 위험을 계속 관리해야 한다.

이용자에게는 무엇이 달라지나

이용자는 자신이 AI와 대화하거나 AI의 판단을 받고 있다는 사실을 이전보다 명확하게 알 수 있게 된다.

AI가 만든 광고, 이미지와 영상에도 표시가 확대되면 실제 인물의 발언과 합성 콘텐츠를 구분하는 데 도움이 될 수 있다. 특히 유명인이나 전문가를 사칭한 허위 광고를 줄이는 효과가 기대된다.

대출, 채용과 의료처럼 중요한 결정에 AI가 사용되는 경우에는 판단 과정에 사람이 개입할 수 있는지, 결과에 이의를 제기할 수 있는지가 더 중요한 문제로 부상한다.

자주 묻는 질문

AI로 만든 모든 콘텐츠에 표시해야 하나요?

모든 생성물에 동일한 방식의 표시가 요구되는 것은 아니다. 콘텐츠의 현실성, 오인 가능성, 서비스 형태와 상업적 이용 여부를 함께 판단해야 한다.

블로그에서 AI 이미지를 사용해도 되나요?

사용 자체가 금지되는 것은 아니다. 실제 사진이나 특정 인물의 발언으로 오인될 가능성이 있다면 AI 생성 이미지임을 명확히 표시하는 것이 적절하다.

단순 챗봇도 고영향 AI인가요?

일반적인 고객상담 챗봇은 통상 고영향 AI로 보기 어렵다. 그러나 의료 상담이나 대출심사처럼 중요한 판단을 수행하면 적용 가능성이 달라진다.

해외 AI 서비스도 한국 법을 따라야 하나요?

한국 시장에서 서비스를 제공하고 일정한 적용 요건을 충족하면 국내 대리인 지정과 관련 의무가 적용될 수 있다. 해외 기업도 시장 진입 단계에서 검토가 필요하다.

위반하면 즉시 처벌되나요?

법률은 계도와 준비기간을 포함한 집행 체계를 운영하고 있다. 다만 준비기간이 있다는 이유로 표시, 위험관리와 문서화를 미뤄서는 안 된다.

산업에 미칠 파급효과

단기적으로는 법률 검토, 데이터 관리와 표시 시스템 구축 비용이 증가할 수 있다.

장기적으로는 신뢰성 검증, AI 감사, 워터마크, 모델 모니터링과 설명가능성 기술 시장이 성장할 가능성이 크다. 법률 대응이 새로운 비용인 동시에 새로운 산업이 되는 것이다.

한국 기업이 명확한 신뢰 기준을 먼저 확보하면 규제가 강화되는 유럽이나 다른 해외 시장에 진출할 때 유리하게 작용할 수 있다. 반대로 국내 기준이 국제표준과 크게 다르면 중복 대응 비용이 커질 수 있다.

향후 관전 포인트

첫째, 고영향 AI 판단을 위한 구체적인 사례와 가이드라인이다.

둘째, 생성형 AI 표시가 화면 문구, 워터마크와 메타데이터 가운데 어떤 방식으로 표준화되는지 확인해야 한다.

셋째, 스타트업의 준수 비용을 줄이기 위한 표준 문서와 기술지원이 실제로 제공되는지가 중요하다.

넷째, 이용자가 AI 결정에 이의를 제기하고 피해를 구제받을 수 있는 절차가 얼마나 실효적으로 마련되는지 지켜봐야 한다.

AI 기본법 개정안의 성공은 규제 조문의 수가 아니라, 기업이 이해할 수 있는 기준과 이용자가 체감할 수 있는 보호를 동시에 제공하는지에 달려 있다.