AI버블이 온다
책임이 결여된 알고리즘 사용에는 반드시 책임이 따른다.
『AI 버블이 온다』라는 제목을 처음 접했을 때에는, 거대한쓰나미와도 같은 AI 열풍이 몰려와 하루가 다르게 발전하는 AI의기술적 진보를 다룬 책일 것이라고 생각하였습니다. 그러나 이 책에서 말하는 ‘버블’이란단순한 호황이 아니라, 거품(Hype)과 그로 인한 부작용을 의미한다는 점을 알게 되었습니다. 특히원어 제목이 『AI SnakeOil』로, 가짜약이나 허위 상품을 뜻하는 표현이라는 사실은 이 책의 문제의식을 더욱 분명히 보여줍니다. 본 도서는 AI에대한 과도한 낙관과 기대가 어떤 오류와 이상 현상을 낳았는지를 구체적인 사례를 통해 조목조목 밝혀 나갑니다.
항상 어떤 사건에서든지 정–반–합의 구조가 존재하듯, 충격에 가까운 AI 열풍이면에는 필연적으로 부작용이 발생합니다. 이 책은 그러한 부작용 중 무엇이 과장되고, 또 그 과장이 어떻게 누적되어 ‘버블’을 형성하는지를 논리적으로 설명하고 있습니다. 단순히 AI 기술의문제를 지적하는 데 그치지 않고, 사회와 시장이 어떻게 기대를 증폭시키는지를 비판적으로 분석한다는 점이인상적이었습니다.
이책이 특히 의미 있게 다가온 이유는 AI의 기술적 발전 자체보다도, AI를 둘러싸고 이를 남용하는 사람들과 그러한 사회적 현상에 주목하고 있다는 점입니다.저자는 AI 붐에 편승하여 분위기에 올라타고, ‘AI’라는 이름만으로 프리미엄을 얻으려는 시장의 욕망이 분명히 존재한다고 지적합니다. 이러한 구조는 닷컴 버블이나 암호화폐 열풍과 마찬가지로, 실체보다 기대에 기반한 과도한 버블을 형성하게 되며, 우리는 이를 반드시 경계해야 한다고 말합니다.
"AI의 부정적인 측면 대부분은 기술 자체보다는 그 기술을 사용하는 기관의 동기같은 외적 요소에서 비롯한다는 점을 인정해야 한다." (P364)
위 문장은 AI 논쟁의 핵심을 정확히 짚고 있다고 생각합니다. 오늘날 AI를둘러싼 다양한 문제들은 알고리즘의 성능이나 기술적 한계라기보다는, AI를 만능 해결책으로 간주하며 손쉬운 방법을 추구하는 사용 기관의 잘못된 동기에서 비롯되는 경우가 많습니다. 이러한 태도는 결국 이른바 ‘뱀기름 AI’에 대한 수요를 만들어내는 원인이 됩니다.
많은 조직은 복잡한 문제를 근본적으로 해결하기보다는, 비용과 책임을 줄여 줄 것처럼 보이는 AI에 의존하려는 경향을 보입니다. 그 결과 실제로는 정상적이고 합리적인 해결방법이 존재함에도 불구하고, 이를 외면한 채 더 빠르고 간편해 보이는편법으로서의 ‘뱀기름 AI’를 선택하게 됩니다. 이 과정에서 AI는 문제 해결을 위한 도구가 아니라, 문제를 회피하거나덮어두기 위한 명분으로전락하게 됩니다.
책에서 언급된 채용 사례는 이러한 문제를 잘 보여줍니다. 채용 시장이 완전히 붕괴된 것은 아니며, 지원자와 직무를 비교·검토할 수 있는 타당한 방법 또한 존재합니다. 그럼에도 불구하고 단 한 개의 채용 자리에 수백, 수천 명의 지원서를 검토해야 하는 채용 담당자는극심한 업무 부담 속에서 부적절한 선택을 하게 됩니다. 예를 들어, 지원자의역량이나 경험이 아니라 ‘책상을 깨끗하게유지하는지 여부’와 같은 의미 없는 기준으로 지원자를 걸러내는 AI를 도입하는 경우가 그렇습니다. 이는 기술의 문제라기보다, 기관이 책임 있는판단을 회피한 결과라고보는 것이 타당할 것입니다.
결국 AI의 위험성은 기술 그 자체에서 비롯되기보다는, 그것을 사용하는 인간과 조직의 태도에 의해 증폭됩니다. 이 문장은 AI 시대에 우리가 경계해야 할 대상이 더 강력한 알고리즘이 아니라, 편리한 결정을 추구하려는 인간의 유혹임을 분명히 보여줍니다.
특히 기업과 조직의 관점에서 본서의 문제의식은 더욱 분명해집니다. 명확한 용도나 문제 정의 없이 ‘AI 도입’ 그자체를 목표로 삼는 기업들이 적지 않으며, 그 결과 비용 증가와 조직 피로도가 누적되고 있습니다. 저자는 “AI를알지 못하면 도태된다”는 공포 마케팅에 휘둘리기보다는, AI를사용하는 행위 자체보다 **‘어디에,왜 사용해야 하는가’**라는질문이 훨씬 더 중요하다고 강조합니다.
결국『AI 버블이 온다』는 AI에 대한 성급한 회의론이나 단순한 비관론을 담은 책이라기보다, 정과반을 넘어 ‘합’으로 나아가기 위해 필요한 균형 감각을 제시하는 안내서에 가깝다고 느껴졌습니다.
AI를 다루는 실무자나 기획자라면 이 책을 통해 AI가 지닌 기회와 위험을 동시에 살펴보고, 보다 현실적이고 책임 있는 시각을 갖는 데 큰 도움을 얻을 수 있을 것이라고 생각합니다.
