AI워싱: 소비자를 기만하는  인공지능 마케팅

목 차
1. 들어가며	/02
2. AI워싱(AI Washing)의 의미	/04
3. AI워싱의 발생 원인	/12
4. 나가며	/21

김태형 책임연구원 | tae0224@kca.go.kr

1. 들어가며

		소비자정책동향 제140호

AI워싱: 소비자를 기만하는 허위 인공지능 마케팅

최근 몇 년간 인공지능(AI : Artificial Intelligence) 기술은 다양한 산업 분야에서 혁신을 이끌어 내며 빠르게 발전하고 있으며, ‘생성형 AI’의 등장으로 단순히 데이터 분석을 넘어서 새로운 콘텐츠를 제작하는 상황까지 발전하였음

AI는 빅데이터 분석, 머신러닝, 딥러닝 등 다양한 기술을 활용하여, 문제를 해결하고 새로운 가치를 창출하는 것에 크게 이바지함

AI는 금융, 의료, 제조 등 여러 영역에서 효율성과 생산성을 향상하고 보다 정교한 의사결정을 가능하게 하는 도구로 주목받고 있음

생성형 AI를 통한 소설, 이미지, 비디오, 코딩, 음악, 미술 등 다양한 콘텐츠 생성에 이용되고 있음

AI기술의 급속한 발전은 소비자와 기업들에도 큰 주목을 받고 있으며, 많은 기업이 AI기술을 도입하거나 이를 활용한 제품과 서비스(이하, ‘제품 등’)를 홍보하고 있음

이남석, “[AI혁신포럼｣고객 마음까지 읽는 전자제품 시대”, EBN산업경제, 24.06.24(https://www.ebn.co.kr/news/view/1627076/?sc=Naver).

AI를 도입하거나 활용한 제품 등을 개발하고 있으며, 이를 통해 시장에서 경쟁 우위를 확보하고자 함

AI를 도입한 기업들은 혁신적이고 첨단 기술을 활용하는 기업으로 인식되어 투자자와 소비자들로부터 긍정적인 평가와 인식을 받기 쉬움

그러나 일부 기업들은 실제로 AI기술을 활용하지 않으면서도 마치 첨단 AI기술을 사용하고 있는 것처럼 거짓 · 과장된 홍보를 하는 사례가 증가하고 있음

AI에 대한 잘못된 홍보를 통해 소비자는 AI에 대한 잘못된 정보와 기대를 통하여 합리적 소비의 기회를 박탈당하고, 경제적 손실을 입을 수 있음

이처럼 소비자를 기만하는 마케팅인 AI워싱에 관한 사건이 발생하고 있어, AI워싱에 관한 의의와 유형 · 사례를 살펴보고 그 원인을 파악하여 시사점을 제기하고자 함

2. AI워싱(AI Washing)의 의미

2.1 AI워싱의 의의

‘AI워싱’은 실제 AI와 무관하거나 일부 제한적으로 적용하면서도 마치 혁신적인 AI기술을 활용하는 것처럼 기업이나 제품 등을 홍보하는 행위를 의미함

AI워싱은 그린워싱에서 파생된 개념으로 알려져 있으며, 미국 증권거래위원회(SEC) 위원장 게리 겐슬러(gary Gensler)의 AI워싱에 대한 경고를 통하여 널리 알려짐(U.S SEC, “SEC chair Gary Gensler on AI Washing”, 24.03.18); 네이버 지식백과, “AI워싱”, 24.07.05 최종접속(https://terms.naver.com/entry.naver?docId=6726592&cid=40942&categoryId=31915).

친환경 제품을 생산하거나 친환경 경영을 하는 것이 아님에도 친환경적 영업을 하는 것으로 거짓 홍보하는 그린워싱(Green Washing)과 유사한 개념임

AI가 혁신 기술로 주목받기 시작하며, 많은 기업이 경쟁력을 유지하고 마케팅이나 투자 유치, 소비자의 신뢰 확보 등을 이유로 AI워싱이 발생함

과거 나노기술, 클라우드 컴퓨팅 등 혁신적인 기술이 등장할 때마다 비슷한 현상이 관찰됨

(마케팅) AI를 사용하는 기업은 혁신적이고 앞서가는 이미지를 가질 수 있어, AI를 강조함으로써 소비자와 투자자들에게 긍정적인 이미지를 전달하려고 함

AI를 전반적으로 사용하지 않더라도 AI를 사용한다고 주장하여, 마케팅과 브랜드 가치를 향상하려고 함

(경쟁 우위 확보) 기업들은 시장 경쟁 속에서 우위를 확보하기 위해 끊임없이 새로운 기술을 도입하고 홍보함

AI의 사용을 주장하는 것은 경쟁사들보다 앞서 나가는 인상을 주어, 고객 유치와 유지에 도움이 되고 시장 점유율을 높이는 것에도 이바지함

(투자 유치) 기업들은 AI 관련 기술과 사업의 도입을 주장함으로써 투자자들의 투자를 유치하고자 함

스타트업과 같은 초기 단계의 기업들은 AI를 사용하는 것처럼 포장하여 더 많은 투자금을 유치하려 시도하고, 이것은 기업의 성장과 확장에 중요한 역할을 함

(소비자 신뢰 확보) AI가 소비자에게 더 나은 제품 등을 제공할 수 있다는 인식이 있어, 소비자 신뢰를 확보하기 위한 전략의 하나로 나타남

(정부 지원) AI기술을 활용하는 기업에 대한 지원이나 혜택을 얻기 위해 AI기술을 활용하지 않더라도 이를 사용하는 것처럼 포장

2.2 AI워싱의 유형

실제 AI기술보다 과장되거나 일부 적용, 제품의 본질과는 무관한 기능에 적용되는 경우, 심지어 AI가 적용되지 않음에도 AI가 적용된 것으로 거짓 · 과대 홍보하는 경우가 있음

(기술적 용어남용) 기술적 용어(‘AI’, ‘머신러닝’, ‘딥러닝’, ‘생성형 AI’ 등)를 남용하여 고도의 기술로 인식하게 함

예를 들면, 간단한 데이터 분석 도구를 활용하였음에도 ‘AI 기반 예측 모델’이라고 하거나, 기존 자동화 시스템이나 일반적인 최적화 알고리즘을 ‘머신러닝을 활용한 시스템’, ‘딥러닝을 활용한 최적화 시스템’ 등 용어를 남용하여 홍보하는 경우

(일부를 전체로 포장) 특정 부서나 프로젝트에서만 제한적으로 AI를 활용하였으면서 마치 기업 전체에서 AI를 활용하고 있는 것으로 과장

예를 들면, AI를 통한 제품 견적서를 발급하는 신발 공장을 AI기업으로 과장 홍보하는 경우

(본질과 무관한 기술 적용) 제품의 본질과는 무관하게 AI기술이 보조적으로 사용된 경우

예를 들면, ‘음성인식을 하는 안마의자’을 ‘AI 안마의자’로 광고하는 경우

(다른 기업의 기술을 이용) 타사의 AI를 이용하면서 자사의 자체 AI기술을 통한 제품 등으로 홍보하는 경우

예를 들면, Chat GPT를 자사 제품과 연결하고는 자체적인 AI제품 등으로 홍보하는 경우

AI기술의 실제 적용 범위나 성능, AI의 학습 방법 등에 대한 구체적 정보를 제공하지 않고, AI기술을 통한 혁신이나 성과를 주장하면서도 객관적인 검증이나 증빙을 제시하지 않음

(불투명한 정보 제공) “AI기술로 구동하는 시스템” 등의 문구를 사용하지만, 구체적으로 어떤 기술이 어떻게 사용되는지에 대한 설명이 없고, 그 기술의 진위를 판단하기 어려움

예를 들면, AI빅데이터 분석 투자 프로그램이라고 하면서 AI의 알고리즘과 데이터에 관한 정보를 제공하지 않음

(검증되지 않은 주장) AI기술을 통한 혁신과 성과를 주장하면서도 그에 대한 객관적인 검증이나 증빙을 제공하지 않음

예를 들면, AI로 판매량의 증가를 예측하였고, 예측만큼의 판매량의 증가를 주장하지만, 그에 따른 데이터나 구체적 사례를 제시하지 않음

2.3 AI워싱의 사례

(아마존(amazon)사건) ′24.4. 아마존은 무인 결제 시스템인 ‘저스트 워크 아웃 기술(Just Walk Out Technology)’이 적용·운영되는 과정에서 AI워싱의 보도가 있었음

김영은, “AI가 계산? 사실 인도인 1000명이 일했다…아마존 무인 매장 없애는 이유”, 한경BUSINESS, 24.04.05(https://magazine.hankyung.com/business/article/202404053057b).

2016년 ‘물건을 들고 나가기만 하면 자동으로 결제’가 되는 ‘저스트 워크 아웃’을 매장에 도입하였지만, 2023년 매장을 철수하면서 ‘저스트 워크 아웃’ 기술도 단계적으로 폐지함

AI시설의 설비 · 유지비용이 매우 높고, 포장 식품이 아닌 신선식품(채소 · 고기·과일)은 카메라나 센서만으로 판독이 어려움

아마존은 2022년 인도에서 ‘저스트 워크 아웃’을 위하여 1,000명 이상의 직원이 고용되어 판매 제품을 수동 모니터링하고 있어 실제 AI기술이 활용되지 않는다는 지적이 제기됨

The Washington Times, “Amazon’s Just Walk Out stores relied on ‘1,000 people in India watching,’ not AI”, 24.04.04(https://www.washingtontimes.com/news/2024/apr/4/amazons-just-walk-out-stores-relied-on-1000-people/).

정확성을 높이기 위한 것으로 다른 AI 역시 인간 검토자가 일반적으로 필요함을 언급함(Emma Woollacott, “What is ‘AI Washing’ and why is it a problem”, BBC, 24.06.28).

아마존의 대변인은 인도의 팀이 ‘저스트 워크 아웃’의 AI모델의 학습훈련을 위해서도 투입되었다고 주장함

해당 기사는 정확한 세부 세항을 떠나서 새롭게 증가는 의문이 생긴 대표적 사례임을 들어 AI워싱을 지적함

(델피아 사건) ′19~′23까지 델피아는 고객 데이터를 투자 과정에 활용하는 AI 및 기계학습의 사용에 관하여 SEC 보고서, 보도자료 및 웹사이트에서 허위 및 오해의 소지가 있는 홍보를 함

SEC(U.S. Securities and Exchange Commision)는 미국의 증권거래위원회로 미국의 증시를 감시 감독하기 위하여 설립된 수사기관으로 미국 대통령 직속의 독립 관청으로서 준사법적 권한까지 행사할 수 있음. 또한, 연방 증권법의 해석 및 집행, 주가 조작이나 불법 거래 등을 적발하고 증권거래소에 상장된 기업이 공시 의무를 철저하게 이행하는지 등을 감독함(https://namu.wiki/w/%EB%AF%B8%EA%B5%AD%20%EC%A6%9D%EA%B6%8C%EA%B1%B0%EB%9E%98%EC%9C%84%EC%9B%90%ED%9A%8C).

′24.3. SEC는 AI기술을 활용하지 않았지만, AI기술을 활용한 것으로 홍보한 2개 기업에 ‘AI워싱 혐의’로 40만 달러의 벌금을 부과하였음; U.S. SEC, “SEC Charges Two Investment Advisers with Making False and Misleading Statements About Their Use of Artificial Intelligence”, 24.3.18(https://www.sec.gov/news/press-release/2024-36).

델피아는 AI가 빅 데이터를 활용하여 어떤 회사와 트렌드의 성공을 예측하고, 다른 사람보다 먼저 투자한다고 홍보함

SEC는 실제 이러한 AI 및 기계학습 능력이 없었으며, 투자 자문사가 중대한 사실의 허위 내용을 포함하는 광고를 배포하는 마케팅 규칙을 위반한 것으로 판단하여, 22만 5,000달러(약 3억원)의 벌금 부과함

(글로벌 프리딕션 사건) ′23년 글로벌 프리딕션은 웹사이트와 소셜미디어에 AI 사용에 관한 허위 및 오해의 소지가 있는 내용으로 홍보한 것이 적발됨

위의 발표와 동일함.

SEC는 해당 기업이 “최초의 규제된 AI투자 자문사”, “전문화된 AI기반 예측”을 제공한다는 허위 · 입증 불가능한 주장을 한 것으로 확인하여 17만 5,000달러(약 2억 3,400만원)의 벌금을 부과함

(엔지니어(Engineer) AI) ′19 인도의 스타트업 ‘엔지니어 AI’가 AI기반의 앱 개발 플랫폼 개발을 주장하여 투자받았으나, 허위인 것으로 적발됨

이지원, “AI워싱”, ｢더스쿠프｣ 제583호, 2024.2., 93면.

실제 앱 개발은 AI가 아닌 소프트웨어 엔지니어 팀의 개발자들이 한 것으로 드러났으며, 이 회사는 이 허위광고로 소프트뱅크 등을 비롯한 투자자들에게 3,000만 달러(약 400억 원) 대 투자를 유치하였음

2.4 AI워싱에 대한 우려

유럽의 AI스타트업으로 분류되는 기업 중 40% 이상이 기술을 과대 선전하는 등 AI의 정의에 해당하는 기술을 보유하고 있지 않은 것으로 파악됨

AI기업으로 분류되는 유럽 AI스타트업 중 2,830곳 중 44.1%는 AI기술의 활용 증거를 제시하지 못함

영국 벤처캐피털 회사 MMC 벤처는 2019년 AI 기업으로 분류되는 유럽 스타트업에 대하여 조사하였음(위의 AI워싱, 93면).

앞서 살펴본 일련의 사건들을 배경으로 AI워싱에 대한 전문가들의 우려와 경고가 나오고 있음

SEC의 게리 겐슬러(Gary Gensler) 위원장은 기업에 AI워싱의 근절을 언급하며 AI 관련 허위 · 과장 광고를 경고하였음

U.S SEC, “SEC chair Gary Gensler on AI Washing”, 24.03.18(https://www.youtube.com/watch?v=4L_jxkZ9V6U).

단독대상인 ‘그린워싱(Green Washing)’과같이 ‘AI워싱’에 대한 경고를 하였음

(원인) 새로운 기술이 나올 때 그 기술을 사용한다고 허위 주장을 하며 투자자들을 모집하는 금융중개인(투자전문가, 중개업자 등)이 존재하고, 기업도 새로운 기술을 이용하고 있다는 것을 SEC에 보고하며 주가의 상승을 기대할 수도 있음

(합리적 근거와 위험에 대한 고지) 기업은 자신들의 주장에 대한 합리적 근거가 있는지 확인 후에 제시해야 하고, AI사용과 관련된 특정 위험이 존재하면 그에 대해서도 투자자에게 알려야 함

(증권법 위반의 우려) AI워싱이 금융중개인(투자전문가, 투자중개업자 등)에 의해 이루어지면 증권법을 위반할 우려가 있기에 본인들이 AI워싱을 행하지 않도록 확인하고 투자자에게 전달해야 함

구글 딥 마인드의 공동 창업자 데미스 하사비스(Demis Hassabis) 최고경영자는 AI가 일부 다른 의미에서 과장되게 활용되고 있다며 AI워싱에 대한 지적을 함

김리안, “딥마인드 CEO AI광풍, 제2의 암호화폐 될 수도” 경고, 한경글로벌마켓, 24.04.01(https://www.hankyung.com/article/202404019767i).

과거 암호화폐 분야에서 볼 수 있는 과대광고와 사기성 사건들이 AI스타트업과 제품 등에서 일어나고 있으며, 이러한 현상이 과학과 연구를 흐리게 만든다고 지적함

일부 AI는 과대 광고되지 않았지만, 다른 의미에서는 과대 광고가 되어 옥석의 구분이 어려워진 상황을 지적함

′23.2. FTC(Federal Trade Commission)는 AI 제품의 광고 시 판매자가 주의해야 할 내용을 언급하면서 허위 · 과장 광고, 조작 광고에 대한 단속을 예고함

미국의 연방거래위원회로 미국 반독점법에 따라 규정을 집행하고 소비자 보호(독과점과 불공정거래 규제)를 추구하는 미국 정부의 독립기관으로, 연방거래위원회는 미국 법무부 반독점 부와 연방 민사 불공정거래 사법권을 공유함(https://ko.wikipedia.org/wiki/%EC%97%B0%EB%B0%A9%EA%B1%B0%EB%9E%98%EC%9C%84%EC%9B%90%ED%9A%8C).

Michael Atleson, Attorney, “Keep your AI claims in check”, FTC Division of Advertising practices, 23.02.27.

(AI제품에 대한 과장) AI제품이 현재의 자동화 기술을 넘어섰음을 주장함에 과학적 근거를 갖추어야 하고, 특정 유형의 사용자나 특정 조건에서만 적용된다면 이는 기만적 행위가 될 수 있음

(비 AI제품보다 우수한 성능을 주장) AI기술이 적용된 제품은 비 AI제품보다 좋게 포장하여 가격 상승을 정당화할 수 있지만, 그에 따른 근거가 있어야 하고 근거가 없으면 이러한 주장을 해서는 안 됨

(제품의 위험과 영향을 파악) 판매자는 ‘AI제품에 대한 합리적으로 예측 가능한 위험과 영향을 인식’하고 있을 것과 ‘제품의 문제나 편향된 결과’를 ‘AI기술 개발자’에게 전가할 수 없으며, AI기술이 ‘블랙박스 기술’이기에 이해할 수 없거나 테스트 방법을 몰랐음을 이유로 책임을 회피할 수 없음

내부 구조는 알 수 없으나 입력과 출력이 일어나는 장치 혹은 시스템으로 장치의 내부 구조와는 상관없이 입출력의 관계를 논하기 위해 쓰는 추상적 개념(네이버 지식백과, 블랙박스 검색, 24.07.03).

즉, AI기술이 들어간 제품에 대한 책임이 AI개발자가 아닌 AI제품 판매자에게 귀속되는 것으로 해석할 수 있음.

(실제 AI를 사용할 것) FTC의 기술자와 전문가들이 제품을 살펴보고 분석하여 판매자의 주장과 일치 여부를 확인하며, 제품 개발과정에서 AI를 사용한 것만으로는 제품에 AI가 포함된 것이 아님

3. AI워싱의 발생 원인

3.1 AI의 일관된 정의의 부재(不在)

AI 자체는 포괄적인 개념이며, 그 정의에 대한 해석의 범위도 넓어 AI를 확대해석하여 자신들의 기술을 AI로 포장하기 쉬움

영국 회계 대기업 KPMG의 신흥 기술 리스크 책임자인 더글라스 딕(Douglas Dick)은 AI워싱의 요인으로 AI의 정의가 명확하지 않음을 꼽음(Emma Woollacott, “What is ‘AI Washing’ and why is it a problem”, BBC, 24.06.28).

국외 주요국과 기관에서 AI의 개발과 발전을 위한 법 · 행정명령 · 국제표준을 제정·시행하고 각자 AI를 정의하고 있음

국제표준화기구(ISO)에서 AI와 관련된 다양한 개념과 용어를 정의하고 있는 표준임(ISO·IEC, Information technology-Artifitial intelligence-Artifitial intelligence concepts and terminology, International Standard, ISO/IEC 22989, 22.07).

(OECD)  ‘AI 시스템’은 AI 시스템은 명시적 또는 암묵적 목표를 위해 입력받은 정보를 바탕으로 예측, 콘텐츠, 추천 또는 결정을 생성하여 물리적 또는 가상 환경에 영향을 미칠 수 있는 기계 기반 시스템으로, 다양한 AI 시스템은 배포 후 자율성과 적응성의 수준이 다를 수 있음

OECD는 2023년 11월 AI 시스템의 정의를 개정하였고, 2024년 3월 5일 AI시스템 정의를 업데이트한 설명문을 승인하고 홈페이지에 공개함(OECD, ｢EXPLANATORY MEMORANDUM ON THE UPDATED OECD DEFINITION OF AN AI SYSTEM｣, 2024.03, p.4 ; https://www.oecd.org/science/explanatory-memorandum-on-the-updated-oecd-definition-of-an-ai-system-623da898-en.htm).

(EU , AI법 제3조(1)) ‘AI시스템’이란 배포 이후에 적응성을 보이고 명시적 또는 묵시적 목표를 위하여 물리 환경이나 가상 환경에 영향을 미칠 수 있는 예측, 콘텐츠, 권고나 결정 등의 산출물을 생성하는 방법을 입력하여 추론할 수 있는 다양한 수준의 자율성을 가지고 작동하도록 설계된 기계 기반 시스템을 말함

2024년 3월 13일 EU는 찬성 523표, 반대 46표, 기권 49표로 세계 최초의 인공지능 규제법(AI법)을 통과시켰고, 5월 21일 EU 이사회는 해당 법안을 최종 승인하여 법안의 내용이 최종확정 되었고, EU 회원국에서 정식 발효되고, 점진적으로 시행되면서 2026년 중반 이후 전면 시행할 예정임.

EU는 2021년 초안에서 ‘AI시스템’을 “기계학습, 논리와 지식 기반의 접근, 통계적 접근, 베이스 추정, 검색과 최적화 방법을 활용하여 개발된 소프트웨어로, 인간이 정의한 일련의 목적을 위하여 콘텐츠·예측·추천·결정과 같은 산출물을 생산하는 소프트웨어”로 정의했으나, 2024년 OECD가 정의한 ‘명시적’, ‘묵시적’ 등 포괄적이고 넓은 의미의 표현을 수용·반영하여 최종안을 작성함(장미경, “OECD, ‘인공지능 시스템’ 정의 개정”, 한국과학창의재단, 24.03.19 ; https://www.kofac.re.kr/brd/board/459/L/menu/248?brdType=R&thisPage=1&bbIdx=39765&brdCodeValue=&searchField=&searchText=).

(미국, 행정명령) 미국은 AI*와 AI시스템**을 구분하여 정의하고 있음

미 바이든 정부는 미국이 인공지능에 대한 약속을 지키고 위험을 관리하는 데 앞장서기 위해 대통령 행정명령 ｢Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence｣(이하, ‘미국 행정명령’)을 2023년 10월 30일 발표하였음.

* (동 명령 제3조(b)) ‘AI’는 인간이 정의한 일련의 주어진 목표에 대해 실제 또는 가상 환경에 영향을 미치는 예측, 권고 또는 결정을 내릴 수 있는 기계 기반 시스템

** (동 명령 제3조(e)) ‘AI시스템’은, ‘AI’를 사용하여 전체적 또는 부분적으로 작동하는 데이터시스템, 소프트웨어, 하드웨어, 애플리케이션, 도구 또는 공익시설을 말함

(일본, 가이드라인) 일본도 AI*와 AI시스템**을 구분하고 있음

総務省 · 経済産業省 , ｢AI 事業者ガイドライン案 ｣(이하, ‘가이드라인’), 24.6.4, 8頁(https://www8.cao.go.jp/cstp/ai/ai_senryaku/8kai/8kai.html).

일본의 가이드라인은 AI 자체에 대한 명확한 정의의 확립·범위를 엄밀하게 정의하기 어렵다고 하면서, “통합혁신 전략 추진회의(‘인간 중심의 AI 사회원칙’, 19.3.29)”에서 결정된 AI 정의를 따르고 있음(위의 가이드라인, 8면).

* ‘AI’는 AI시스템 자체 또는 기계학습을 수행하는 소프트웨어나 프로그램을 포함하는 추상적인 개념

** ‘AI시스템’은 다양한 수준의 자율성을 가지고 동작하고 학습하는 기능을 갖춘 소프트웨어를 요소로 포함하는 시스템으로, 기계, 로봇, 클라우드 시스템 등을 포함

(국제표준화기구, ISO/IEC 22989) 국제표준화기구에서도 AI*와 AI시스템**을 구분하여 정의함

ISO·IEC, Information technology-Artifitial intelligence-Artifitial intelligence concepts and terminology, International Standard, ISO/IEC 22989, 22.07, p.1.

* ‘AI’는 AI시스템의 메커니즘 및 응용에 관한 연구 및 개발로서, 여러 학문 분야(컴퓨터 과학, 데이터 과학, 인문학, 수학 및 자연 과학 등)에서 이루어 짐

** ‘AI시스템’은 인간이 정의한 다양한 목적의 수행을 위해 콘텐츠, 예측, 추천, 의사결정을 생성하는 엔지니어링 된 시스템

엔지니어링 시스템은 AI와 관련된 다양한 기술과 접근법을 사용하여 데이터, 지식, 프로세스 등을 나타내는 모델을 개발할 수 있으며, 이를 통해 예측, 계산 또는 생성, 번역 등의 작업을 수행함(위의 ISO/IEC 22989, p.6).

우리나라에서 AI를 정의한 법률은 없으며, 제안된 의안과 한국산업표준을 통하여 인공지능에 대한 개념 및 용어를 정하고 있지만, 국제표준화기구의 정의 규정을 그대로 반영한 것임

산업표준심의회, 정보 기술-인공지능-인공지능 개념 및 용어 KS X ISO/IEC 22989:2022,  23.12. 참조.

현재 제안된 의안들은 공통으로 ‘인공지능’으로만 표기하고 있어 의안의 취지를 그대로 반영하기 위해 ‘AI’가 아닌 ‘인공지능’으로 표기함.

22대 국회에 제안된 의안은 ‘인공지능’과 ‘인공지능 기술’을 나누어 정의하면서, 일부를 제외하고는 그 정의가 같음

‘인공지능’의 정의는 다시 나뉘고 있음

① 학습 추론 지각 판단 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것을 말함

이처럼 인공지능을 정의하고 있는 안은, 민형배 의원안(2201158), 김성원 의원안(2200675), 조인철 의원안(2200673), 정점식 의원안(2200543)이 있음(24.07.04 기준).

② 자율성을 가지고 외부의 환경 또는 입력에 적응하여 학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것을 말함

이처럼 인공지능을 정의하고 있는 안은, 안철수 의원안(2200053)이 있음(24.07.04. 기준).

‘인공지능 기술’이란, 인공지능을 구현하는 데 필요한 하드웨어 기술 또는 그것을 시스템적으로 지원하는 소프트웨어 기술 또는 그 활용 기술을 말함

인공지능 기술에 대한 정의는 제안된 의원안이 동일함(24.07.04 기준).

국내외 국가와 기관이 AI에 관한 다른 용어를 채택하면서도 큰 맥락에서 유사하게 AI를 정의하고 있지만, 그 해석에 따라 개념과 범위가 달라질 수 있어 ‘정의의 일관된 해석’이 어려워 AI를 판단하는 기준으로 삼기에는 부족함

국내외 AI 관련 법과 행정명령 등은 인간으로서 권리와 존엄, 개인의 권리 등을 보호하고 지키면서 AI와 관련된 기술을 발전시키기 위해 제정·시행되고 제안되었음

즉, 주된 목적은 “AI연구의 위험성을 주의하면서, 인간 중심적이고 신뢰할 수 있는 AI의 개발과 민주주의·법치주의의 범위에서 인간의 기본권을 보호하면서 혁신 기술을 발전을 도모하는 것”이지, AI를 판단할 수 있는 기준을 마련하는 것은 아님

EU AI법 전문 및 미국 행정명령의 목적 등 참조.

3.2 AI에 대한 판단 기준의 부재(不在)

현재 AI에 대한 조사, 판단, 위반 여부 등을 규제하거나 검증할 수 있는 법적 · 제도적 장치가 충분히 마련되어 있지 않음

국내·외에서 AI의 활용, 규제 등 다양한 논의가 진행되고 있으며, 각 표준에 대해서도 논의 및 개발 중인 상황이며, AI를 조사 · 판단 · 위반 여부의 판단 기준의 마련은 현시점에서 어려움

국민신문고(1AA-2406-0706721)를 통한 ‘인공지능(AI)에 관한 기술적 표준’에 대한 국가기술표준원의 답변을 정리함.

(기준의 부재) 국제사회에서도 어떤 기술이 실제로 AI로 인정되는지에 대한 명확한 기준이 없어 AI기술을 사용한다는 주장에 대한 검증하는 방법이 없음

즉 많은 국가에서 AI기술을 규제하고 검증할 수 있는 법적 · 제도적 장치의 마련을 위하여 논의하고 있음

AI에 관한 판단의 기준이 없는 것은 소비자뿐만 아니라 기업과 사용자가 AI워싱을 인식하기 어렵게 만드는 요인으로 작용함

소비자가 AI워싱을 인지하고 기업의 주장을 검증하거나 반박하더라도, 명확히 정의되지 않은 AI는 해석으로 허용이 될 수도 있고,

기업에서 기초적 AI나 단순 알고리즘이나 센서로 작동하는 기술이라 하더라도 AI를 확대해석하여 그것을 고도화된 AI기술로 홍보할 우려도 있음

′22.12. 국내에서 전체 211,075개의 기업 중 AI기술 및 서비스를 이용하는 것으로 등록한 기업은 약 27%(59,077개)로 파악되지만, 기업이 AI기술을 사용하는지에 관한 판단 조사는 이루어지지 않음

10인 이상 민간 부분 기업체(통계청, 2022년 12월 기준 기업통계등록부) 기준.

과학기술정보통신부, “인공지능(AI) 기술 및 서비스 이용 여부”, 「정보화통계조사」, 2022, 2024.07.02(https://kosis.kr/statHtml/statHtml.do?orgId=127&tblId=DT_120008_2022C017&conn_path=I2).

각 기업이 AI를 어떻게 이용하는지에 대한 통계는 제시되고 있지만, AI에 관한 판단 조사는 이루어지지 않음

<표 1-1> 통계청, ‘AI기술 및 서비스 이용유형’ 정리(복수 응답, 2022.12.31. 기준)

AI 이용유형	소계(개)
문서작성 및 정보 수집	17,981
업무 자동화 지원	14,644
의사결정 지원	29,705
음성 언어를 기계가 읽을 수 있는 형식으로 변환하는 기술	4,291
영상, 문자 또는 음성 언어를 생성, 요약, 편집하는 AI기술	5,560
이미지 또는 영상을 기반으로 사물이나 사람을 식별하는 기술	40,993
데이터 분석을 위한 머신러닝	5,216
문자 언어 분석을 수행하는 AI기술	1,430
주변 환경 관찰에 기반한 자율적 판단을 통해 기계의 물리적 이동을 가능하게 하는 AI기술	1,112
기타	78

3.3 AI 관련 용어남용 및 이해 부족

AI에 관한 기술적 용어의 남용은, 전문적 지식이 없어 AI의 실제 수준이나 적용 가능성 등을 판단하기 어려운 소비자를 현혹함

(기술적 용어의 남용과 혼란) ‘AI’, ‘머신러닝’, ‘딥러닝’ 등의 전문적이고 기술적인 용어를 사용하지만, 실제 제품의 적용 여부에 대해서 소비자가 확인하는 것이 어려움

대부분 소비자들은 다양한 매체에서 소개하고 이슈가 되고 있는 AI를 제품이나 서비스의 기준으로 삼고 있음

OTT 기업의 영상추천, 상품추천, 스팸메일 필터링까지도 AI기술이 활용되고 있지만, 이것은 단순히 알고리즘에 의한 것이라고 인식하는 경향이 높음

딥러닝을 통한 AI(대표적으로 알파고)에서 현재의 생성형 AI(대표적으로 Chat GPT)로 발전을 하면서, 소비자는 현재의 AI에 대해서만 인식·판단할 뿐 근본적으로 AI에 대한 기술적 교육과 인식이 부족함

그로 인해 실제 AI의 수준이나 제품 등에 어떻게 활용되고 있는지를 확인하기 어려우며, AI의 하자가 있더라도 이를 인식하고 입증하기 어려움

이처럼 AI는 단계 · 사용 기술 · 활용 분야에 따른 분류 등 다양한 분류가 가능하지만, 소비자는 어떤 AI가 어떻게 활용된 것인지를 직관적으로 파악할 수 없음

AI는 다양한 기술적 접근 방식으로 여러 가지로 분류될 수 있어서, 대표적인 일부만 소개하며, 이외에도 ‘자연어 처리 · 이해’, ‘컴퓨터 비전’, ‘음성인식’, ‘생성 모델’ 등 세부 분류로 나뉘고 특정 문제 해결을 위해 설계되고 발전·응용되고 있음.

(인공지능의 단계) AI의 기능을 기반으로 구분하는 방식으로 AI의 목적과 활용 범위에 따라 세 가지 단계로 나눌 수 있음

(좁은 인공지능, Narrow AI) 특정 작업이나 문제 해결에 특화된 AI로, 현재 대부분의 AI 시스템이 여기에 속함

(일반 인공지능 혹은 강한 인공지능, General AI or Strong AI) 인간 수준의 사고가 가능하여 주제에 구애받지 않고 다양한 지적 작업을 수행할 수 있는 AI로 현재 이론적 개념이나 연구 단계에 있음

AI가 이해력, 추론 능력, 학습 능력, 감정 인식 및 반응을 요건을 갖추어야 함.

(초인공지능, Super intelligent AI) 초인공지능은 인간의 지능을 초월하는 AI로, 이론적 개념으로만 존재함

AI가 스스로 과학적 발견을 하거나 경제·사회를 완전히 이해하고 최적화함.

(사용 기술에 따른 구분) 인공지능은 다양한 기술적 접근 방식에 따라 구분할 수도 있음

김진형, ｢AI최강의 수업｣, 매일경제신문사, 2021; 김태형·신영수, 인공지능 기반의 리걸테크 활용을 위한 전제와 방향, IT와 법연구 제26집, 2023.2., 121~125면 참조.

(규칙 기반 인공지능 : Rule-based AI) 미리 결정된 규칙을 기반으로 AI의 기능을 달성하도록 설계된 시스템을 의미함

전문가 시스템(Expert System)으로도 불리며, 특정 분야의 지식을 바탕으로 결정을 내리는 것으로 미리 정의된 규칙 집합을 통해 결정하며, 사람의 의사결정이 거의 또는 전혀 필요하지 않은 반복 프로세스에 사용(예. 의료 진단, 재무 처리 프로세스).

(머신러닝 : Machine Learning AI) 주어진 데이터를 분석하고 그 결과에서 학습 가능한 규칙과 지식을 자동으로 추출함으로써 기계가 학습하는 효과를 얻는 것을 목적으로 하는 AI

정확한 예측을 하기 위해서는 대량의 데이터를 이용하는 것이 필요하며, 다양한 상황 · 요인 · 잠재적 결과가 있는 사안의 경우에 활용하는 것이 적합하며, 머신러닝의 학습 방법에는 ‘지도학습’, ‘비지도학습’, ‘강화학습’ 등이 있음(예, 문자인식, 안면 인식, 자동 번역, 자연어 처리, 스팸 필터, 추천 시스템 등).

(딥러닝 : Deep Learning AI) 머신러닝의 방법론 중 하나로서, 인공신경망을 기반으로 하고, 대량의 데이터에서 복잡한 패턴과 특성을 학습하는 AI

딥러닝의 학습 알고리즘은 기존 머신러닝의 학습 방법에서 히든 레이어를 사용하여, 더 명확한 분류를 할 수 있어 그 정확도가 기존보다 상당히 상승하였다는 점을 들 수 있음.

<그림 1-1> 인공지능의 분류(규칙기반 AI / 머신러닝 AI / 딥러닝AI)

김태형·신영수, 앞의 논문, 125면.

(활용 분야에 따른 구분) AI는 여러 분야에서 활용되고 있으면 대표적으로 ‘컴퓨터 비전’, ‘이미지 인식’, ‘자연어 처리’, ‘계획’ 등이 있음

앞의 정보 기술-인공지능-인공지능 개념 및 용어 KS X ISO/IEC 22989:2022, 56~60면.

(컴퓨터 비전 및 이미지 인식) ‘컴퓨터 비전’은 이미지 또는 비디오를 나타내는 데이터를 수집 처리 및 해석하는 기능 단위 능력으로 정의되고 이미지 인식과 밀접한 관련이 있음*

* 예를 들면, ‘자율주행 차량의 교통 신호 및 물체 감지 및 식별’, ‘의료 영상에서 질병 및 이상 감지’, ‘제품 조립 라인에서 결함 부품 발견’ 등

(자연어 처리) 자연어 이해와 자연어 생성에 기반한 정보 처리로 텍스트 또는 음성을 사용한 자연어 분석 및 생성을 포함함*

* 예를 들면, ‘필기를 인식하여 디지털 형식으로 변환’, ‘음성인식을 통해 말의 의미 이해’, ‘이메일 메시지에 있는 단어의 의미를 사용해 스팸메일 분류’ 등)

(계획) AI의 하위 분야로, 특정 성능 측정을 최적화하면서 특정 목표에 도달하기 위해 일련의 절차적 작업을 자동으로 찾을 수 있음*

* 산업 응용 프로그램에 매우 중요하며 위험 관리, 의료 산업 협동 로봇, 사이버 보안, 인지 보조 등 비즈니스 영역에서 활용됨

4. 나가며

AI워싱은 결국 AI라는 개념 · 기술을 일컫는 포괄적인 단어만을 사용하고, 어떤 기준이나 응용 분야 · 세부 분류의 AI인지에 관한 설명하지 않음

AI라는 단어 자체가 하나의 개념이자 기술 전체를 일컫는 단어임에도 불구하고 어떠한 기준이나 응용 분야에 따라서 세부적으로 분류될 수 있는 것들을 구분하지 않고 모든 것을 AI라고 표기함

즉, 상위의 개념 아래 존재하는 하위항목을 구분하지 않고, 하위항목조차 상위개념의 용어로 사용함

예를 들면, 공(球)은 ｢제작 방법｣에 따라서 ‘지푸라기로 만든 공’, ‘금형으로 찍어서 만든 공’, ‘가죽을 꿰어서 만든 공’, ‘돌을 깎아서 만든 공’도 있고, ｢사용 목적｣에 따라 ‘야구공’, ‘축구공’, ‘당구공’ 등 다양하게 구분됨

하지만 AI워싱은 그러한 구분이 없이 ‘AI’라는 최상위 개념으로만 사용하여, 풍선조차 공이라고 홍보하는 것과 같은 소비자 기만행위를 하는 것임

결국 세부적인 목적과 특징에 대한 설명이나 안내가 전혀 없이 AI라는 포괄적이고 관념적인 개념으로 모든 제품을 표기 · 지칭하면서 홍보하고 있는 것임

AI워싱은 국내의 현행법에서도 조처할 수 있는 것으로 해석할 수 있지만, AI워싱을 판단할 기준이나 제도가 없고 그 입증이 어려워 실제 적용에는 어려움이 있음

AI워싱이 발생하였다면, 민법 · 표시광고법 · 전자상거래법 · 금융소비자보호법 · 정보통신망법 등의 적용을 통하여 처벌 및 계약 취소 · 해제 · 해지 등의 법적 조치를 취하는 것도 가능한 것으로 해석할 수 있지만, 현실적으로 입증을 하는 것이 어려움

(예시1) “기업이 자사의 검색엔진이 AI기반으로 사용자 맞춤형 검색 결과를 제공하는 것으로 광고했으나 실제로는 단순히 키워드 매칭 알고리즘만 사용한 경우” 표시광고법 제3조에 부당한 표시광고에 해당할 수 있으나 기술적인 사항을 입증하기 어려움

(예시2) “수익을 보장하는 AI기반 투자 상품 추천 서비스를 추천하며 가입을 유도하여 소비자가 가입했으나 실제는 단순한 알고리즘으로 추천하는 경우” 민법상 사기에 의한 의사표시(제109조)와 불법행위에 의한 손해배상 청구(제750조)의 적용도 가능하지만, 소비자가 AI인지 여부를 판단 · 인지하지 못하여 계약의 취소나 손해배상 청구를 제기하지 못할 수 있음

또한 입증에서도 AI의 실제 적용 여부나 제품 등에 따라서 요구되는 AI의 수준을 개별적으로 구분하여 판단해야 함

(예시1) “불량품 선별 과정에서 AI가 활용된 제품”은 AI제품으로 미분류

(예시2) “실내온도가 30℃가 되면 작동하고 풍량 · 풍향을 조절하는 에어컨”은 프로그래밍이 AI로 판단할 수 있는 수준인지를 판단해야 함

(예시3) “제품의 주요 기능과는 무관하게 AI음성 인식이 가능한 안마의자”의 경우에는 AI제품에 포함할 것인지에 대한 논의가 필요함

AI임을 판단할 수 있는 기준이나 제도가 없는 상황에서 소비자는 본인이 AI워싱의 피해자인지조차 인지하지 못할 수 있음

AI에 대한 개념과 판단 기준의 마련이 전제되어야 AI워싱에 따른 소비자 피해 예방 및 대응도 원활하게 진행될 수 있음

AI워싱은 AI에 대한 명확한 개념 정의와 판단 기준이 마련되기 전까지는 지속될 것으로 사료됨

앞서 살펴본 바와 같이 국외에서 AI워싱으로 인한 소비자피해를 막기 위해 일정한 기준을 제시하면서 조사와 단속을 예고하고 있는 상황으로 관련 사례가 추가로 파악될 것이 예상됨

국내에서도 AI의 판단 기준을 마련하고 법령을 정비한 후 AI워싱을 관리하는 것이 이상적이지만 상당한 시일과 논의가 필요한 사항이기 때문에, 기준을 마련하는 동안 소비자피해의 발생을 억제하고 막기 위한 최소한의 장치나 조치를 실행할 필요가 있음

[ 참고 문헌 ]

김진형, ｢AI최강의 수업｣, 매일경제신문사, 2021.

김태형·신영수, “인공지능 기반의 리걸테크 활용을 위한 전제와 방향”, ｢IT와 법연구｣, 2023.2.

과학기술정보통신부, “인공지능(AI) 기술 및 서비스 이용 여부”, 「정보화통계조사 2022｣, 2024.07.02.

산업표준심의회, 정보 기술-인공지능-인공지능 개념 및 용어 KS X ISO/IEC 22989:2022,  23.12.

이남석, “[AI혁신포럼｣고객 마음까지 읽는 전자제품 시대”, EBN산업경제, 24.06.24.

이지원, “AI워싱”, ｢더스쿠프｣ 제583호, 2024.2.

장미경, “OECD, ‘인공지능 시스템’ 정의 개정”, 한국과학창의재단 홈페이지, 24.03.19.

김리안, “딥마인드 CEO AI광풍, 제2의 암호화폐 될 수도” 경고, 한경글로벌마켓, 24.04.01.

김영은, “AI가 계산? 사실 인도인 1000명이 일했다…아마존 무인 매장 없애는 이유”, 한경BUSINESS, 24.04.05.

OECD, ｢EXPLANATORY MEMORANDUM ON THE UPDATED OECD DEFINITION OF AN AI SYSTEM｣, 2024.03.

Emma Woollacott, “What is ‘AI Washing’ and why is it a problem”, BBC, 24.06.28.

ISO·IEC, Information technology-Artifitial intelligence-Artifitial intelligence concepts and terminology, International Standard, ISO/IEC 22989, 22.07.

Michael Atleson, Attorney, “Keep your AI claims in check”, FTC Division of Advertising practices, 23.02.27.

The Washington Times, “Amazon’s Just Walk Out stores relied on ‘1,000 people in India watching,’ not AI”, 24.04.04.

U.S. SEC, “SEC Charges Two Investment Advisers with Making False and Misleading Statements About Their Use of Artificial Intelligence”, 24.3.18.

U.S SEC, “SEC chair Gary Gensler on AI Washing”, 24.03.18.

総務省 · 経済産業省 , ｢AI 事業者ガイドライン案 ｣, 24.6.4.

*본 연구의 내용은 연구자 개인의 견해이며 공식 견해가 아닙니다.