[プラットフォーム経済] アルゴリズムの反乱：クーパン「1800ロール騒動」が突きつけた自動化の限界

玄関を埋め尽くす「不条理」：プラットフォームが忘却した物理的限界

2026年2月11日、韓国のeコマース大手クーパン（Coupang）で発生した「1800ロール事件」は、単なるシステムトラブルの枠を超え、高度に自動化されたプラットフォームが抱える致命的な「コモンセンス（常識）」の欠如を浮き彫りにした。通常1パック（30ロール）が届くはずの注文に対し、システムの誤作動によって60パック、計1,800ロールが配送対象として処理されたのである。

この分量は一般的な家庭の数年分、あるいは小規模な倉庫を一つ埋め尽くすほどの質量であり、物理的な物流の常識に照らせば明らかに異常な数値である。しかし、人間による最終的な監査（ガバナンス）をバイパスしたアルゴリズムは、この「物理的な不可能性」を検知することなく注文を確定させた。効率性を最優先し、マニュアル・チェックを排除したテクノロジーの加速が、現実世界の論理を無視した「ブラックボックスの暴走」を招いたと言える。一部の業界関係者の間では、今回のエラーの背景に「バックオフィス部門の過度な人員削減（レイオフ）」があり、システム監視の網の目が形骸化していたのではないかという『噂』も囁かれているが、同社は沈黙を保っている。

AIチャットボットの「確証バイアス」：エラーを増幅させる負の連鎖

消費者の混乱に拍車をかけたのは、企業の「顔」として導入されたAIチャットボットの存在であった。SBSニュースが報じたところによれば、顧客が注文内容に不審を抱き問い合わせた際、AIは「1,800個で間違いありません」と回答を繰り返したという。この事実は、AIが現実の文脈を理解せず、データベース上の誤ったフラグを「真実」として再生産するリスクを端的に示している。

トランプ政権2期目による徹底した規制緩和の波を受け、テック企業はサービス展開の迅速化（アジリティ）を競っているが、その代償として「インフラストラクチャの脆弱性」という副作用が表面化している。デジタル庁が推進する「信頼できるAI」の議論が活発化するなかで、この「AIによる誤回答の正当化」は、ユーザーとプラットフォーム間の信頼関係を根底から揺るがす事態となった。自動化されたカスタマーサービスが、エラーを修正する装置ではなく、エラーを強化する増幅器として機能してしまったのである。

「アルゴリズム負債」の顕在化：SEC報告書が予見していたリスク

企業経営の側面で見れば、今回の騒動はクーパンが米国証券取引委員会（SEC）に提出した年次報告書（Form 10-K）で自ら指摘していたリスクが、最悪の形で顕在化したものと言える。同報告書の「リスク要因」セクションでは、複雑なシステムにおける未検出のエラーや価格設定アルゴリズムの不備が、財務結果や事業運営に悪影響を及ぼす可能性が明記されていた。

物流コンサルタントは、今回の事象を「自動化のパラドックス」と呼ぶ。アルゴリズムが「価格」という数値データのみを最適化した結果、三次元の物理空間における「配送可能性」という制約を無視してしまったのだ。このようなエラーは、一度発生すれば注文のキャンセルや返金対応といった膨大な「人間による手作業」を誘発し、自動化によって得られた利益を容易に食いつぶしてしまう「アルゴリズム負債」へと変わる。

法的救済と信頼の乖離：民法が守れないもの

法的観点からは、この契約の有効性が議論の焦点となる。韓国民法第109条（錯誤による意思表示）によれば、意思表示の内容に「重大な錯誤」があった場合、表意者に重大な過失がない限り、その契約を取り消すことができる。独立系分析機関の法務専門家は、「価格誤表示が極端であり、購入者がそれが誤りであることを合理的に知り得た場合、販売者は損害賠償なしに契約を解除できる」との見解を示している。

しかし、法的な免責が消費者の心理的な裏切りを補完することはない。電子商取引消費者保護法に基づき、クーパン側は製品供給が不可能な旨を通知し、返金手続きを進めることで事態の収拾を図った。だが、一度AIに「正しい」と保証された情報が後から覆される体験は、消費者にとってプラットフォームそのものへの根深い不信感へと直結する。効率化を最優先する物流アルゴリズムが、最も非効率な「信頼の回復」というコストを企業に強いている現状は、現代のテクノロジー経営が直面した最大の矛盾である。

結論：人間中心のガバナンスへの回帰

これからのECプラットフォームに求められるのは、単なる自動化の加速ではなく「人間中心の自動化（Human-in-the-loop）」への回帰である。異常な注文量や価格設定を検知した際、AIが独断で進行するのではなく、人間の感性による検証を強制的に介在させるガバナンス構造の再構築が不可欠だ。

テクノロジーが人間の生活をより「合理的」にすると信じられてきたこの時代において、私たちが失いつつあるのは「あり得ないこと」を「あり得ない」と判断する、最も原始的な人間的感覚（コモンセンス）ではないだろうか。効率が究極の目的となったとき、非効率な人間的エラーの中に宿っていた「安全弁」としての知性を、我々は今一度再評価すべき時を迎えている。