알고리즘이 설계한 비극: 2026년 '죽음의 챌린지'와 플랫폼의 면죄부

꺼지지 않는 틱톡의 그림자: 제이콥 스티븐스의 비극

오하이오주의 평범한 13세 소년, 제이콥 스티븐스(Jacob Stevens)의 마지막은 스마트폰 화면 너머의 환호가 아닌, 차가운 인공호흡기의 기계음 속에 있었습니다. 2023년 4월, 그는 틱톡(TikTok)에서 유행하던 일명 '베나드릴 챌린지(Benadryl Challenge)'에 참여했습니다. 환각 상태에 도달해 그 경험을 영상으로 공유하면 '좋아요'와 조회수가 쏟아질 것이라는 알고리즘의 달콤한 유혹은, 판단력이 미성숙한 10대 소년에게 치명적인 독배를 들게 했습니다. 항히스타민제를 치사량에 가까운 12~14알이나 삼킨 그는 결국 친구들이 보는 앞에서 발작을 일으켰고, 6일간의 사투 끝에 뇌사 판정을 받고 짧은 생을 마감했습니다. 제이콥의 아버지가 병실 침대맡에서 눈물로 호소했던 "내 아들의 죽음이 헛되지 않게 해달라"는 외침은 당시 전 세계 부모들의 가슴을 울렸지만, 2026년 오늘날 플랫폼의 현실은 그날의 비극에서 한 발자국도 나아가지 못했습니다.

제이콥의 죽음은 단순한 개인의 일탈이나 10대들의 철없는 장난으로 치부될 수 없습니다. 이는 플랫폼 기업이 설계한 정교한 '도파민 경제'가 낳은 구조적 비극입니다. 당시 유족들은 "틱톡이 아들을 죽음으로 내몰았다"며 소송을 제기했지만, 플랫폼의 대응은 언제나처럼 '기술적 중립성'이라는 방패 뒤에 숨는 것이었습니다. 2026년 현재까지도 틱톡을 비롯한 숏폼 플랫폼들은 표면적으로는 유해 콘텐츠 무관용 원칙을 내세우지만, 내부적으로는 여전히 '체류 시간(Time Spent)'을 지상 과제로 삼고 있습니다. 자극적일수록, 위험할수록, 알고리즘은 그 콘텐츠를 더 많은 10대의 '추천 피드(For You Page)'에 띄웁니다. 이것은 명백한 '알고리즘에 의한 살인 방조'라는 비판이 끊이지 않는 이유입니다.

제이콥 사건 이후 3년이 지난 지금, 상황은 나아지기는커녕 더욱 교묘해졌습니다. 트럼프 2기 행정부의 규제 완화 기조와 맞물려, 빅테크 기업들은 '표현의 자유'를 무기로 강력한 안전 장치 도입을 지연시키고 있습니다. 한국 역시 예외가 아닙니다. 서울 강남의 한 중학교에 재학 중인 김민준(가명) 군의 학부모 이수진(가명) 씨는 "최근 아이 학교에서 질식 게임과 유사한 챌린지가 다시 유행한다는 이야기를 듣고 잠을 설쳤다"며, "플랫폼이 아이들을 실험쥐 취급하는 것 같다"고 분통을 터뜨렸습니다. 국경을 넘어선 글로벌 플랫폼의 영향력은 이제 한국의 안방까지 위협하고 있으며, 학부모들의 공포는 임계점을 넘어선 상태입니다.

알고리즘은 왜 위험을 권하는가

2026년의 알고리즘은 더 이상 단순한 '추천' 도구가 아닙니다. 그것은 인간의 원초적 호기심과 도파민을 채굴하는 거대한 '디지털 채굴기'에 가깝습니다. 특히 판단력이 완성되지 않은 10대 청소년에게 숏폼 플랫폼의 무한 스크롤은 빠져나올 수 없는 늪과 같습니다. "단 15초 안에 승부를 봐야 한다"는 숏폼의 문법은 필연적으로 자극의 인플레이션을 불러왔고, 그 정점에 생명을 담보로 한 '죽음의 챌린지'가 자리 잡고 있습니다.

서울 대치동 학원가에서 만난 중학교 2학년 김민준 군의 스마트폰 화면은 1분 단위로 바뀌는 자극적인 영상들로 가득했습니다. 김 군은 "친구들 사이에서 '겁쟁이' 소리를 듣지 않으려면 유행하는 챌린지를 한 번쯤은 따라 해야 한다"고 털어놨습니다. 문제는 이 유행의 확산 속도입니다. 과거 학교 담장 안에서 알음알음 퍼지던 위험한 장난들이, 이제는 알고리즘을 타고 빛의 속도로 전국, 아니 전 세계로 확산됩니다.

IT 보안 전문가들과 아동 심리학자들은 현재의 추천 시스템이 '부정적 강화(Negative Reinforcement)' 메커니즘을 학습했다고 지적합니다. 사용자가 위험하거나 충격적인 영상을 보고 멈칫하거나, 댓글을 확인하기 위해 체류하는 그 짧은 시간을 알고리즘은 '높은 관여도(Engagement)'로 해석합니다. 2025년 발표된 한국언론진흥재단의 연구 결과에 따르면, 청소년의 68%가 유해 콘텐츠를 검색해서 본 것이 아니라 추천 피드에 떠서 우연히 접했다고 응답했습니다. 이는 플랫폼이 능동적으로 위험을 배달하고 있다는 명백한 증거입니다.

플랫폼 기업들은 줄곧 자신들이 '중개자'일 뿐이라며 '기술적 중립성'을 방패로 삼아왔습니다. 그러나 2026년 현재, 이 주장은 설득력을 잃었습니다. 알고리즘은 가치 중립적이지 않습니다. 철저하게 '체류 시간 증대'라는 상업적 목표에 복무하도록 설계되었기 때문입니다. 이익을 위해 위험을 방조하는 것을 넘어, 적극적으로 확산시키는 구조가 고착화된 것입니다. 실제로 최근 국정감사에서 공개된 자료에 따르면, 일부 플랫폼은 내부적으로 '바이럴 지수'가 높은 콘텐츠의 안전 필터링 기준을 느슨하게 적용했다는 의혹까지 받고 있습니다.

치사량의 환각: 베나드릴 챌린지의 의학적 진실

"베나드릴 챌린지"가 10대들의 호기심을 자극하며 소셜 미디어를 잠식하는 동안, 의학계는 이 현상을 단순한 '놀이'가 아닌 명백한 '급성 중독 사태'로 규정하고 있습니다. 챌린지의 도구로 사용되는 디펜히드라민(Diphenhydramine)은 약국에서 손쉽게 구할 수 있는 일반의약품이지만, 허용 용량을 초과할 경우 중추신경계와 심혈관계에 치명적인 독성을 발휘합니다.

의학적으로 볼 때, 10대들이 기대하는 '몽환적인 환각'은 사실 뇌의 신경 전달 물질인 아세틸콜린이 차단되면서 발생하는 급성 항콜린성 독성 반응, 즉 '섬망(Delirium)'의 일종입니다. 수도권 권역응급의료센터의 박진수(가명) 전문의는 "응급실에 실려 온 아이들은 틱톡 영상 속의 유쾌한 모습과는 정반대로 극심한 공포와 혼란 상태에 빠져 있다"고 설명합니다. 안면 홍조, 고열, 동공 확장과 함께 현실과 환시를 구분하지 못하는 상태에서 아이들은 통제 불가능한 발작을 일으키며, 이는 성장기 뇌에 영구적인 손상을 남길 수 있습니다.

가장 치명적인 위험은 심장에 가해지는 타격입니다. 디펜히드라민 과다 복용은 심전도상 QT 간격을 비정상적으로 연장시켜 '토르사드 드 포인트(Torsades de pointes)'라 불리는 악성 부정맥을 유발할 수 있습니다. 이는 심장이 혈액을 제대로 펌프질하지 못하고 가늘게 떨기만 하는 상태로, 즉각적인 제세동 조치가 없다면 수분 내에 심정지와 사망으로 직결됩니다. 2026년 미국 독성통제센터협회(AAPCC)의 데이터에 따르면, 이러한 약물 오남용으로 인한 청소년 심정지 사례는 챌린지 유행 전인 3년 전보다 2배 이상 급증한 것으로 나타났습니다.

박 전문의는 "성인의 대사 능력을 기준으로 설정된 약물의 안전역(Safety Margin)은 13세 소년의 미성숙한 장기에는 적용되지 않는다"며 "단 몇 알의 차이가 호기심을 죽음으로 바꾸는 임계점이 된다"고 경고했습니다. 결국 플랫폼 위에서 15초 남짓의 짧은 영상으로 소비되는 챌린지는, 약물이 인체 내부에서 일으키는 끔찍한 생화학적 붕괴 과정을 철저히 은폐하고 있습니다.

플랫폼의 면죄부는 끝났다: 2026년 글로벌 규제 트렌드

2026년 1월, 글로벌 IT 업계의 지각판이 흔들리고 있습니다. 지난 수십 년간 거대 테크 기업들의 난공불락의 방패 역할을 해왔던 '통신품위법 230조(Section 230)'의 절대적 면책 특권이 미국 본토에서부터 균열을 일으키고 있기 때문입니다. 트럼프 2기 행정부는 기술적 규제 완화를 기조로 삼고 있음에도 불구하고, 아동·청소년 보호 이슈에서만큼은 초당적인 '플랫폼 책임론'에 힘을 실어주고 있습니다. 이는 더 이상 알고리즘이 가치 중립적인 '단순 배달자'가 아니라, 이윤을 위해 위험을 증폭시키는 '적극적 편집자'라는 사회적 합의가 도출되었음을 의미합니다.

유럽연합(EU)의 행보는 더욱 강력합니다. 디지털서비스법(DSA)이 전면 시행된 지 2년이 지난 현재, 유럽 규제 당국은 '죽음의 챌린지'와 같은 유해 콘텐츠를 방치한 플랫폼에 대해 천문학적인 과징금을 부과하며 실질적인 타격을 입히고 있습니다. 반면, 한국의 상황은 여전히 '자율 규제'라는 미명 하에 답보 상태에 머물러 있습니다. 방송통신위원회가 지속적으로 가이드라인을 제시하고는 있지만, 법적 강제성이 결여된 권고 수준에 그치고 있어 실효성에 대한 비판이 끊이지 않습니다.

중학교 2학년 자녀를 둔 학부모 박지훈(가명) 씨는 "아이가 위험한 챌린지 영상을 보고 있을 때, 부모가 뺏지 않는 이상 멈출 수 있는 장치가 전무하다"며, "알고리즘은 아이가 그 영상을 끝까지 보게 만들고, 더 자극적인 다음 영상을 끊임없이 추천한다"고 토로했습니다. 박 씨의 지적처럼, 한국의 현행 정보통신망법은 플랫폼 사업자에게 불법 정보 유통 금지 의무를 부과하고 있지만, 알고리즘에 의한 '유해 정보 추천' 행위 자체를 처벌할 명확한 법적 근거는 부족한 실정입니다. 이는 피해가 발생해도 기업에 징벌적 손해배상을 묻기 어려운 법적 공백으로 이어집니다.

결국 핵심은 '수익성'과 '안전' 사이의 딜레마입니다. 플랫폼 기업들은 표면적으로는 안전 강화 조치를 발표하고 있지만, 내부적으로는 체류 시간(Time on Site)이 곧 광고 수익으로 직결되는 비즈니스 모델을 포기하지 못하고 있습니다. 2026년 현재, 주요 숏폼 플랫폼들의 알고리즘은 여전히 사용자의 도파민을 자극하는 방향으로 고도화되어 있으며, 이는 판단력이 미성숙한 청소년들에게 치명적인 흉기가 되고 있습니다.

차단된 검색어, 뚫리는 방어막: 규제의 역설

방송통신위원회와 주요 플랫폼 기업들이 '블랙아웃 챌린지'와 관련된 검색어를 전면 차단하겠다고 발표한 지 불과 3일이 지났지만, 디지털 세계의 뒷골목은 여전히 무법지대입니다. 서울 강남구의 한 청소년 상담 센터에서 근무하는 김민지(가명) 상담사는 "아이들의 타임라인은 어른들이 생각하는 것보다 훨씬 빠르게 진화한다"고 지적합니다. 그녀가 보여준 한 중학생 내담자의 스마트폰 화면 속에는 금지된 단어들이 기묘한 형태로 살아 숨 쉬고 있었습니다.

단순한 키워드 필터링은 마치 구멍 난 댐을 손바닥으로 막으려는 시도와 같습니다. '기절'이라는 단어가 막히자 아이들은 '기_절', '기.절', 혹은 이를 뜻하는 은어(Algo-speak)를 만들어냈고, 챌린지 영상은 '숨참기 놀이', '천국 체험' 같은 무해해 보이는 제목으로 둔갑해 알고리즘의 감시망을 유유히 빠져나갔습니다. 2026년 현재, AI 기반의 유해 콘텐츠 필터링 기술은 비약적으로 발전했다고 하지만, 맥락을 교묘하게 비트 10대들의 은어 생성 속도를 따라잡기에는 역부족입니다.

이러한 '규제의 역설' 뒤에는 플랫폼 기업들의 이중적인 태도가 자리 잡고 있다는 비판을 피하기 어렵습니다. 겉으로는 '안전 센터'를 설립하고 막대한 예산을 투입해 유해 콘텐츠를 단속한다고 홍보하지만, 속내는 복잡합니다. 2025년 국정감사 자료에 따르면, 자극적인 숏폼 콘텐츠가 사용자의 체류 시간(Time Spent)을 평균 15% 이상 늘린다는 데이터가 보고된 바 있습니다. 플랫폼의 수익 모델이 사용자의 시간을 점유하여 광고를 노출하는 것에 기반하는 한, 자극적이고 위험한 챌린지는 아이러니하게도 가장 효율적인 '수익 창출원'이 됩니다.

디지털 야생지대에서 아이들을 지키는 법

규제 사각지대에 놓인 '디지털 야생지대'에서 아이들을 보호하기 위한 사회적 논의는 이제 선택이 아닌 생존의 문제가 되었습니다. 2026년 현재, 플랫폼 기업들이 전가의 보도처럼 휘둘러온 "우리는 중립적인 매개자일 뿐"이라는 방어 논리는 더 이상 설득력을 잃었습니다. 알고리즘이 자극적인 콘텐츠를 선별하고 확산시키는 '편집권'을 행사하고 있음이 명백해진 이상, 그에 상응하는 법적, 윤리적 책임을 묻는 것은 '정의(Justice)'의 영역입니다.

전문가들은 비극의 재발을 막기 위해 정부, 기업, 그리고 가정이 연계된 '3중 안전망' 구축이 시급하다고 입을 모읍니다.

첫째, 정부의 강력하고 실효성 있는 규제 도입입니다. 유럽연합(EU)이 디지털 서비스법(DSA)을 통해 플랫폼에 유해 콘텐츠 관리 의무를 부과하고 위반 시 천문학적인 과징금을 부과하는 것처럼, 우리 국회와 방송통신위원회 역시 단순한 권고를 넘어선 징벌적 손해배상제 도입을 서둘러야 합니다. 2026년 새해 벽두부터 논의되고 있는 '한국형 알고리즘 투명성 법안'은 기업의 영업비밀을 침해하지 않는 선에서 유해 콘텐츠 필터링 로직을 외부 전문가가 감시할 수 있도록 하는 내용을 골자로 하고 있으며, 이는 거스를 수 없는 시대적 요구입니다.

둘째, 기업의 '안전 우선(Safety by Design)' 원칙 도입입니다. 카이스트 과학기술정책대학원 연구원 김서연(가명) 씨는 "기업이 이윤 추구라는 명분 아래 아이들의 전두엽이 미처 방어기제를 갖추기도 전에 도파민을 착취하고 있다"고 강도 높게 비판했습니다. 틱톡이나 인스타그램 같은 거대 플랫폼은 '체류 시간'이 아닌 '사용자 안전'을 핵심성과지표(KPI)로 재설정해야 합니다.

셋째, 가정과 학교를 잇는 '디지털 시민성' 교육의 강화입니다. 스마트폰을 뺏거나 앱을 삭제하는 일차원적인 통제는 더 이상 통하지 않습니다. 박지훈 서울시교육청 장학사(가명)는 "아이들이 알고리즘의 원리를 이해하고, 자신이 보는 콘텐츠가 왜 추천되었는지 비판적으로 사고할 수 있는 능력을 길러주는 것이 부모와 교사의 역할"이라고 강조했습니다.