2022年11月08日 13時00分ネットサービス

Twitterの元エンジニアが「非倫理的なシステム」を作らされそうになった時のエピソードを打ち明ける

新たにTwitterのCEOに就任したイーロン・マスク氏が全社員の半数を解雇するなどの大規模な改革を実施し、Twitterの社内では混乱と動揺が広がっています。そんな中、TwitterやMicrosoftなどにソフトウェアエンジニアとして勤務し、記事作成時点では金融テクノロジー企業のBrexで主任エンジニアを務めるSteve Krenzel氏が、「かつてTwitterで非倫理的なシステムを開発させられそうになった時のエピソード」を打ち明けています。

With Twitter's change in ownership last week, I'm probably in the clear to talk about the most unethical thing I was asked to build while working at Twitter.

????
— Steve Krenzel (@stevekrenzel)

TwitterのCEOがディック・コストロ氏からジャック・ドーシー氏に交代したばかりの2015年～2016年頃、Twitterは経営上の問題に直面しており、外部の人々が考えている以上にTwitter閉鎖の危機が間近に迫っていたとのこと。

To set the stage, this was the 2015-2016 era. @dickc was just ousted, though he was wonderful and made us feel like family. @jack came in as part-time CEO. Twitter had been near death for a while and was desperately trying to find a buyer. Facebook and Google both refused.
— Steve Krenzel (@stevekrenzel)

当時のKrenzel氏はソフトウェアエンジニアとして、新興市場の人々がTwitterをより使いやすくするために、帯域幅・メモリ使用量・バッテリー消費量の削減といったタスクに取り組んでいました。

I worked as a software engineer on a team with a charter to make Twitter work better for people in emerging markets (Brazil, India, Nigeria, etc...). This meant a lot of mobile work. And was mostly non-visual stuff - reducing bandwidth, memory usage, battery consumption.
— Steve Krenzel (@stevekrenzel)

Twitterのモバイルアプリでユーザーの操作ログをアップロードする方法を改善することで、モバイル帯域幅の消費量を大幅に削減することに成功したKrenzel氏は、Twitterアプリのモバイルログ担当者として認知されるようになったとのこと。

In the app, HTTP responses were compressed, but requests weren't. Logs are highly compressible, so I wired up support to gzip HTTP requests, and tweaked our log ingestion server to handle these.

(That reduced mobile bandwidth consumption by ~40% iirc. It was absurd.)
— Steve Krenzel (@stevekrenzel)

そんな中、Twitterはある大手通信会社からの「北米で信号強度データを送信してほしい」という依頼を受けました。場所ごとの信号強度データを収集・送信するサービス開発に取り組んだKrenzel氏は、他のデータソースと組み合わせた場合でも匿名性を維持できる範囲を見つけました。

My plan was to aggregate signal strength by carrier / by location. I worked with Data Science to find a granularity – minimum area size and minimum distinct users per area – that would preserve anonymity even when combined with other sources of data (differential privacy).
— Steve Krenzel (@stevekrenzel)

ところが、通信会社は「このデータは役に立たない」と不満を表明し、今度は「競合他社の店舗にユーザーが入ったかどうかを知りたい」と言い出したとのこと。Krenzel氏はプライバシーを尊重する方法で要望された機能を実装しましたが、やはり通信会社は不満を感じていました。そこでKrenzel氏が通信会社のディレクターとミーティングを行ったところ、ディレクターは「ユーザーが家を出る時、通勤する時、1日中どこにいてもわかるようにしておくべきです。それ以下では意味がありません。他のハイテク企業からはそれ以上のデータを得ています」と述べたそうです。

I wound up meeting with a Director who came in huffing and puffing.

The Director said “We should know when users leave their house, their commute to work, and everywhere they go throughout the day. Anything less is useless. We get a lot more than that from other tech companies.”
— Steve Krenzel (@stevekrenzel)

ユーザープライバシーを軽視し、識別可能なユーザーの位置データ販売を求める通信会社に対し、Krenzel氏は「そんなことやるわけがない」という内容をえん曲的に伝えたとのこと。Twitterの内部で行われた会議では、法務部はユーザーの利用規約に照らし合わせても問題ないと主張しました。しかし、Krenzel氏のチーム全体がプライバシーの問題があると認識しており、Twitterも大規模なレイオフを実行したばかりであったため、代わりにユーザープライバシーを損なうような機能を開発するために割ける人員はいませんでした。

Normally they might find another engineer to do this work, but my whole team was aligned with the privacy concerns. Twitter had also just done layoffs (aside: time is a flat circle), so there were no spare engineers around.
— Steve Krenzel (@stevekrenzel)

Krenzel氏のチームはレイオフの影響を受けていませんでしたが、人材の流出は止まらなかったとのこと。Krenzel氏自身も「もはやTwitterは良い仕事ができる場所ではない」と感じたために退職を決意し、その過程で通信会社とのプロジェクトを中止させるための行動にも従事したそうです。Krenzel氏は、ある新任マネージャーに「ダンプカーにお金を積んで君にあげたら、Twitterに残ってこの製品を作ってくれるか？」と言われたことが忘れられないと述べています。

One random anecdote:

In the middle of this, I had gotten a new manager who, in a retention attempt I’ll never forget, said “If we filled a dump truck with money and dumped it on you, would you stay and build this?”

I wasn’t really sure how to respond to that… but no dice.
— Steve Krenzel (@stevekrenzel)

Krenzel氏がTwitterで最後に書いたメールは、当時のCEOだったドーシー氏に宛てたものでした。通信会社とのプロジェクトについて記したメールに対し、ドーシー氏はすぐに「誤解がないかどうか調べさせてください。これは正しいことではありません。そんなことはやりたくないのです」と返信してきたとのこと。その後、Krenzel氏の知る限りプロジェクトは停止されたとのことで、ドーシー氏は実際にこのプロジェクトに不満を持っていたとKrenzel氏は述べています。しかし、「この考え方がTwitterの新しい所有者に当てはまるかどうかはわかりません。私はイーロンがデータを使ってさらに悪いことをすると思います」と述べ、今後のTwitterにおけるユーザープライバシーに懸念を示しています。

As far as I know, the project actually got canned. Jack genuinely didn’t like it.

I don’t know if this mindset will hold true with the new owner of Twitter though. I would assume Elon will do far worse things with the data.
— Steve Krenzel (@stevekrenzel)

スレッドのまとめとして、Krenzel氏は「まだTwitterにいる従業員は、自分が持っているポケットビート(大統領が行使できる拒否権のこと)の力を過小評価しないでください。うまくいかないこともあれば、エスカレートして逆風にさらされるリスクもありますが、良いポケットビートは使って学ぶものです」と、Twitterの従業員に呼びかけました。

And, for the any employees still at Twitter, don’t underestimate the power of a pocket veto.

Sometimes it doesn’t work out, or you have to escalate and risk it back firing, but a good pocket veto is a tool to learn to wield well.
— Steve Krenzel (@stevekrenzel)

この記事のタイトルとURLをコピーする

・関連コンテンツ

2022年11月08日 13時00分00秒 in ソフトウェア, ネットサービス, Posted by log1h_ik

You can read the machine translated English article here.