AI/ML 서비스에 대한 책임 및 책임의 제한 합의
장 I – AI의 본질 및 책임 배분
조 1. AI의 본질적 특성 및 법적 결과
1.1. 고객은 책임 배분에 영향을 미치는 AI 시스템의 기술적 특성을 이해하고 인정합니다:
- (a) 할루시네이션(AI 환각): 대형 언어 모델(LLM)은 높은 신뢰도로 부정확하거나 허위의 정보를 생성할 수 있습니다. 고객은 항상 중요 정보를 독립적으로 검증해야 합니다.
- (b) Non-determinism (비결정성): 동일한 input이 매번 다른 output을 생성할 수 있습니다. AI는 결정론적 시스템이 아닙니다;
- (c) 편향: AI 모델은 학습 데이터에 존재하는 편향을 반영할 수 있습니다. 결과는 공정성과 중립성에 대해 확인되어야 합니다;
- (d) Explainability(설명 가능성): 대부분의 최신 AI 모델(Deep learning)은 “블랙박스”이며 — 의사결정 방식을 완전히 설명할 수 없습니다;
- (e) Context limitations: AI 모델은 유한한 context window를 가지며, window 외부의 정보는 무시됩니다.
제2조. 책임 할당 프레임워크
2.1. HiTechCloud의 책임:
- (a) API 인프라가 약정된 SLA를 충족하도록 보장(조 2, File 08);
- (b) AI 모델이 콘텐츠에 관한 법률 규정을 위반하지 않도록 보장;
- (c) output에 영향을 미칠 수 있는 모델 변경 사항에 대한 적시 알림;
- (d) 개인정보 보호법 91/2025/QH15 및 356/2025/ND-CP 시행령에 따른 API 데이터 보안 조치 유지;
- (e) 기술 문서, 예시 prompt 및 안전한 사용 지침을 제공합니다.
2.2. 고객 책임:
- (a) 중요한 의사결정을 위해 인간의 감시(Human-in-the-Loop)가 있는 시스템을 설계합니다.
- (b) 실제 사용 전에 AI 출력을 검증 및 품질 확인합니다;
- (c) 각 구체적인 AI 적용에 대한 법률 규정 준수 보장;
- (d) 사람에게 영향을 미치는 애플리케이션을 배포하기 전에 AI 위험 평가를 수행합니다;
- (e) 콘텐츠 또는 의사결정이 AI에 의해 생성된 경우 최종 사용자에게 투명하게 공개합니다.
▸ 법적 근거: EU AI Act 2024(고위험 AI 시스템 관련 제9–17조); 국가 AI 전략 2021(책임 있는 AI 원칙); 127/QĐ-TTg 결정; 개인정보 보호법 91/2025/QH15 및 356/2025/ND-CP 시행령.
제II부 – AI 특화 책임의 제한
조 3. HiTechCloud의 책임의 제한
3.1. HiTechCloud는 다음에 대해 법적 책임을 지지 않습니다:
- (a) 검증 없이 부정확한 AI 출력을 신뢰함으로써 발생하는 손해;
- (b) AI 출력을 기반으로 내려지는 사업, 의료, 법률 또는 재무 결정;
- (c) 제3자의 지식재산권을 위반하는 AI 생성 콘텐츠(고객이 책임);
- (d) 제3자 공급자(OpenAI, Anthropic, Google 등)의 AI 모델 변경이 출력에 영향을 미칩니다.
- (e) 고객의 AI 애플리케이션을 목표로 한 악의적 입력(prompt injection, adversarial attacks)으로 인한 손해;
- (f) 고객의 최종 사용자에 의한 AI “jailbreak” 또는 manipulation으로 발생한 손해.
3.2. 최대 배상 한도:
HiTechCloud의 AI 서비스와 관련된 총 손해배상 책임은 어떤 경우에도 고객이 청구 발생 전 12개월 동안 지급한 총 AI 서비스 이용료 또는 20,000,000 VND 중 낮은 금액을 초과하지 않습니다. 이 제한은 AI 서비스의 특수한 성질로 인해 제15조의 일반 제한보다 낮게 설정됩니다.
조 4. 고위험 AI 애플리케이션을 위한 Human-in-the-Loop 요구사항
4.1. EU AI Act 2024 및 책임 있는 AI 원칙에 따라, 고객은 다음 용도로 AI를 사용할 때 인간의 모니터링(Human-in-the-Loop) 메커니즘을 반드시 배포해야 합니다:
- (a) 개인의 법적 복리후생에 영향을 미치는 결정(대출 거부, 채용, 점수 산정);
- (b) 의료 진단 또는 지원 (AI는 보조만 수행; 의사가 최종 결정을 내림);
- (c) 보안 결정 및 접근 제어;
- (d) 학생을 평가하는 교육 시스템;
- (e) 아동에게 영향을 미치는 모든 애플리케이션.
4.2. Human-in-the-Loop 요구사항을 충족하지 못하는 것 자체가 법률 위반을 구성할 수 있으며, HiTechCloud는 고객에 대한 법적 결과에 대해 책임을 지지 않습니다.
제 5조. AI 투명성 및 최종 사용자 권리
5.1. 최종 사용자에게 AI 애플리케이션을 배포할 때, 고객은 다음과 같은 법적 의무를 부담합니다:
- (a) 사용자가 AI 시스템과 상호작용하고 있음을 명확히 공개합니다(인간인 척할 수 없습니다);
- (b) AI와 상호작용하지 않으려는 사용자를 위한 거부 옵션을 제공합니다.
- (c) 사용자에게 영향을 미치는 결정이 완전히 자동으로 내려질 때 사용자에게 알립니다;
- (d) 개인정보 보호법 91/2025/QH15 및 356/2025/ND-CP 시행령 19조에 따른 AI 결정에 대한 설명 및 이의 제기 권리를 제공합니다.
▸ 법적 근거: EU AI Act 2024 (제50조 투명성 의무); 개인정보 보호법 91/2025/QH15 및 356/2025/ND-CP 시행령 (제19조 – 자동화된 의사결정의 적용 제외 권리); 2023년 소비자 권리 보호법.
제6조. AI 검증 및 평가
6.1. 고위험 AI 애플리케이션의 경우 HiTechCloud는 고객이 다음을 수행하도록 강력히 권장합니다.
- (a) 13/2023/ND-CP 시행령에 따른 AI 프라이버시 영향 평가(AI Privacy Impact Assessment)를 수행합니다.
- (b) 편향을 감지하고 완화하기 위한 알고리즘 공정성 테스트(Algorithmic Fairness Testing);
- (c) Red-teaming: 적대적 입력을 통해 AI 모델이 악용될 수 있는지 테스트합니다.
- (d) EU 사용자가 있는 경우 EU AI Act 규정 준수 여부를 확인합니다.
6.2. HiTechCloud는 요청 시 AI Governance 컨설팅 서비스를 제공합니다. 문의하기: info@photuesoftware.com.
