| 창원 KBS1 라디오 <라이브 경남>에서 매주 월요일 이윤기의 세상읽기 코너를 진행하고 있습니다 . 방송 내용과 조금 다른 초고이기는 하지만 기록을 남기기 위해 포스팅 합니다.(2024. 10. 14 방송분) |
가짜 AI 구별하기
지난 방송에서 교육부가 밀어붙이고 있는 AI-디지털 교과서 도입의 문제점에 대하여 말씀 드렸는데요. 교과서에도 도입한다는 AI 기술은 몇 년간 다양한 산업 분야에서 혁신을 이끌어 내며 빠르게 발전하고 있으며, 특히 생성형 AI 기술의 등장으로 단순한 빅테이터 분석을 넘어섰으며, AI가 새로운 콘텐츠를 스스로 제작하는 상황으로 발전하고 있습니다. 이렇게 빠르게 우리 삶의 전 분야에 인공지능 AI가 스며들고 있는데요. 오늘은 이 틈을 타고 소비자들을 기만하는 가짜 인공 지능 <AI워싱>에 대하여 함께 생각해보겠습니다.
아마 많은 청취자분들이 <AI 워싱>이란 단어를 처음 들으실텐데요. 실제 AI와 무관하거나 일부 제한적으로 적용하면서도 마치 혁신적인 AI기술을 활용하는 것처럼 기업이나 제품 등을 홍보하는 행위를 말합니다. 우리에게 좀 더 익숙한 용어로 그린워싱이라는 단어가 있는데요. 친환경 제품을 생산하거나 친환경 경영을 하는 것이 아니면서 영업과 마켓팅을 친환경을 내세워서 그짓으로 홍보하는 것을 그린워싱이라고 하는데요. AI 기술을 활용하는 것처럼 소비자를 기만하는 것을 <AI 워싱>이라고 부릅니다.
먼저 급속하게 우리 삶의 일부분이 되어가고 있는 인공지능의 등장에 대하여 한 번 살펴보겠습니다. 인공지능 기술 개발이 처음 시작된 것은 1950년대부터라고 합니다만, 저 같은 평범한 사람들에게 인공지능의 등장을 알린 사건은 2016년 3월 대한민국을 대표하는 바둑기사 이세돌이 알파고에게 패배한 세기의 바둑 대결인 것 같습니다.
당시 이세돌 기사는 알파고에게 4대 1로 패배하였는데, 더욱 충격적인 것은 이세돌이 알파고를 이긴 마지막 인간으로 역사에 기록되게 되었다는 것입니다. 우리가 이 세기의 대결을 잊고 지내는 동안에도 AI 기술은 끊임 없이 진화하였고, 불과 6년 후에 AI 대중화 시대가 시작되었습니다.
OpenAI ChatGPT 성공하자...가짜 AI 난무
거대언어모델이라 불리는 새로운 기술을 적용한 AI가 일반 사용자들과 만나게 된 것은 가장 대표적이고 대중적인 대표적인 AI, ChatGPT가 출시되면서부터입니다. 대표 AI ChatGPT는 2022년 11월 30일 샌프란시스코에 본사를 둔 OpenAI에 의해 출시되었다.
출시 후 5일 만에 ChatGPT의 사용자 수는 100만 명을 넘었고, 두 달 후인 2023년 1월, ChatGPT는 1억 명 이상의 사용자를 확보하여 현재까지 지구상에서 가장 빠르게 성장하고 있는 소비자 애플리케이션으로 기록되고 있습니다. 2023년 2월에는 월 20달러 이상는 내는 유료 버전과 프리미엄 버전인 GPT-4를 출시하였는데, 지난달 유료 사용자가 1000만명을 넘었고, 기업 서비스 이용회사도 100만 곳을 넘었다고 합니다. 이 회사의 기업 가치가 200조원을 넘어선다고 하니 앞으로도 어마어마한 성장 가능성을 기대하는 것이라고 보아야 할 것 같습니다.
그러다보니 출판계에는 AI 관련 책들이 쏟아져 나오고, 곳곳에서 AI 강사 양성 강좌들이 열리고 있습니다. 세계적인 AI 열풍은 우리나라에서도 뜨겁게 불고 있는데요. 사용자 통계에서도 나타나고 있습니다. 국내 ChatGPT 사용자는 약 400만명, 그리고 2위 AI 에이닷 사용자가 206만명, 3위 AI 뤼튼 사용자는 105만명 이라고 합니다.
아이디어웨어라고 하는 시장분석 기관의 조사에 따르면, 지난 7월 기준 쳇GPT 국내 사용자는 496만명, 사용시간은 547만 시간이라고 하는데요. 6개월 전과 비교했을 때, 사용자는 145%가 증가하였고, 사용시간은 3배 가까이 증가하였다고 합니다. 아울러 연령대별로는 20대와 30대가 가장 많이 사용하였지만, 10대부터 50대까지 고른 사용자 분포를 보였으며, 60대 이상은 2.7%로 낮게 나타났습니다.
AI워싱, 가짜 기술, 과장 광고
그런데, 문제는 이렇게 AI 사용자들이 빠르게 늘어나면서 “AI 기술을 제대로 사용하지 않으면서 AI를 사용한다고 주장하는 기업들이 급속하게 늘어나고 있다”는 것입니다. 가장 심각한 것은 바로 기술 용어를 광고에 남발하는 것입니다. AI, 머신러닝, 딥러닝, 생성형 AI와 같은 단어를 남용하는 것인데요. 간단한 분석 프로그램을 활용하면서 ‘AI 기반 예측 모델 적용’이라고 하거나, 기존 자동화 시스템을 최적화 시킨 후에 ‘머신러닝을 활용한 시스템’, ‘딥러닝을 활용한 시스템’이라고 홍보하는 경우입니다.
또 일부 기술 도입을 과도하게 부풀리는 경우도 있는데요. 예를 들면, AI 기술을 적용하여 제품 견적서를 발급하는 신발 제조기업이 회사를 홍보할 때, AI 기업이라고 한다거나, 음성 인식 기술을 사용하는 안마의자를 판매하는 기업이 ‘AI 안마의자’라고 광고하는 경우가 해당될 수 있겠습니다. 아울러 이미 널리 사용되고 있는 AI 앱을 자사의 제품에 적용해놓고, 마치 자체 AI 제품을 개발한 것처럼 홍보하는 경우도 있습니다.
주식 투자에도 AI 기술 도입을 주장하는 경우가 있는데요. AI 빅데이터 분석 투자 프로그램이라고 홍보하면서 정작 AI 알로리즘이나 데이터에 관한 정보를 제공하지 않아서 검증이 불가능한 경우도 있구요. 특히 학습지 회사들이 AI 마케팅을 과도하게 하고 있는데요. “AI 연산 학습지, AI클래스, 인공지능 분류카드, AI문답 with ChatGPT 학습지, AI학교 아이펠 등의 단어를 사용하고 있고, 유명 사교육 기업에서는 AI 기술로 교과서와 참고서를 분석하여 매칭율95% 이상의 닮은 꼴 AI문제 매칭을 하고 있다는 광고와 인공지능 기반 맞춤형 문제 추천 학습 제공을 홍보하고 있습니다.
AI워싱... 조사 대상의 44% 과대 광고
이미 유럽에서는 AI워싱 기업에 대한 조사가 시작되었다고 하는데요. 영국의 벤처캐피털 회사 MMC밴처가 유럽에서 AI스타트업으로 분류되는 기업 2830곳을 조사하였더니 그중 44.1%가 기술을 과대 선전하는 등 AI로 정의할 수 있는 기술을 보유하지 않은 것으로 파악 되었다고 합니다.
미국의 연방거래위원회도 AI 워싱의 위험을 경고하고 나섰는데요. 일반적 자동화 기술을 적용하면서 AI 기술이 적용된 것처럼 광고하거나 특정 유형의 사용자나 특정 조건에서만 적용되는 기술을 부풀리는 과장광고, 조작광고에 대한 단속을 시작하였습니다. AI 기술 적용을 핑계로 가격을 인상시키거나 AI제품에 대한 합리적 예측가능한 위험을 숨기는 행위, 그리고 실제 AI 기술이 적용되었는지를 검증하겠다는 것입니다.
이에 비해 우리나라 소비자들은 AI워싱에 무방비 상태라고 할 수 있습니다. 통계청에 따르면 국내에서만 약 6만개 기업이 AI기술 및 서비스를 이용하는 것으로 등록하였는데, 실제 AI 기술을 사용하는지에 대한 판단과 조사는 한 번도 이루어지지 않았습니다. AI를 제대로 정의한 법률이 없고, AI워싱이 판치고 있지만, 이를 규제하거나 조사, 판단, 위반 여부 등을 검증할 법적, 제도적 장치가 전무하며, 가짜 AI, 과장 AI로 인한 피해는 고스란히 소비자의 몫이 되고 있습니다. 소비자 피해를 막기 위한 빠른 대체가 필요하다고 생각합니다.
