リース株式会社に滞納予測 AI に関する質問をしたところ、大変丁寧な回答をいただきました。特に断りが無かったため、次に個人情報を除くほぼ全文をそのまま転載いたします。

改めてまして、この度はお問い合わせいただき誠に有難うございます。 ご指摘いただいた点は、正に弊社も課題意識を感じています。

まず、弊社はそもそも、代表がフリーランス時代に、フリーランスという属性を理由に賃貸物件を借りられない・クレジットカードの審査に通らない、といった信用における”負”を経験し、これを解決したいという想いから創業しており、「特定の属性を持つ人々に対する不当な差別を助長することはしない」という思想に基づいています。

本回答を書いている私自身も、在日韓国人の2世であり、弊社代表とケースは違えど国籍という属性を背景とした”負”を経験した過去がございます。

こうした背景からも、弊社は、外形情報に基づき審査が行われた結果として特定属性が不当な不利益を被るということを無くし、「自らの行動とその結果によって信用を向上できる育成型の新しい信用の在り方」を創ってきたいと考えており、そのためにAIを始めとする各種テクノロジーを活用するというスタンスを取っています。

実情として、残念ながら金融機関による住宅ローンの審査や賃貸の入居審査においては、人による審査がベースとなっているが故に、審査をする人が持つ偏見や差別的な見方が反映されることがあるのが現実です。

一方、AIによる審査の方が人が行うアナログな審査に比べてバイアスを省いた客観的なものと言えます。

従い、審査において偏見や差別的な見方を無くすためにAIを活用していく、というのが当社のスタンスです。

元来、出生等本人の意思では変えることが難しい事柄を判断に用いないというのが正しく、その人の素行を含めてありのままで判断するのが理想だと考えています。

これらを踏まえ、下記の通りご質問への回答とさせていただきます。

質問1：プレスリリースで紹介されているスクリーンショットでは、入居審査対象者に関する項目として性別や国籍などが含まれていますが、これらの項目は滞納予測に使われていますでしょうか。

→ 現在提供予定のβ版モデルでは、国籍を入居審査対象者に関する項目に含めていますが、滞納予測には用いておりません。また、性別は滞納予測における判断材料に含まれておりますが、将来的には変更される可能性もございます。

質問2：特定の属性を持つ人々に対する不当な差別を助長しないために、どのような対策を取られていますでしょうか。

→ 信用力を測るに当たり相関性が高い特徴量を抽出し、より正確な情報を取得していくことになります。

入谷様のご質問の中で「性別…は滞納との論理的な関係が見受けられません。」とのご指摘がございますが、弊社のデータ分析では女性の方が男性より滞納率が低いことから、結果として女性のエンパワーメントが叶えられるという仮説が立てられます。すなわち、人によるアナログな審査と比較して、AIによる分析において性別を判断要素とする方が、「女性であること」が有利に働くことから、性別による差別の解消につながる可能性があるのではないかという観点から検討を行っています。

なお、大前提として、弊社は性別による不当な差別を無くす方向で考えており、性別関係なくフェアな土台で判断する（判断の土台を揃える）方針です。 ※前述の様に「女性であること」が有利に働く ＝「女性の信用力をより高く評価する」としても、それにより男性が逆差別により不利になるというシーソー現象は起きません。シンプルに、性別による不当な差別が解消されます。

いずれにせよ弊社としては、不当な差別を解消するために、更なるデータ蓄積と分析を重ねる必要があると考えている他、性別を特徴量から外したモデルで予測を行っていくことも議論しています。

これに対して、外国籍の方の場合、在留資格の有無を確認する必要があります。賃貸借契約および家賃保証契約の際に、本人確認書類として用いられます。そのためのフラグであり、与信判断には使用していません。

弊社としては、現状は外国籍の方というだけで負の印象を受けてしまうため、これをデータによって解消したいと考えています。

「〇〇籍の方の滞納率は80%」というファクトデータがあったと仮定した場合、信用力を測る ＝ 滞納確率を予測する観点において参考値として考慮しないのは難しいと判断されますが、だからと言って「〇〇籍の方の滞納確率は80%」と予測するのは当然に乱暴であり、その背景を特徴量として抽出する必要があると考えています。

また仮に、国籍と滞納率に正の相関があったとして、国籍をそのまま重要な変数とみなすのか、外国籍という属性に起因する特定の要素（職の探しずらさ等）が根源的な因子となっているのであれば、それを解消しながら機会均等を前提とした本質的な信用力を測るべき、というのが当社のサービスに込められた願いです。 ※現状、国籍は、滞納予測には使用しておりません。

ということで、いずれにせよ弊社としては、出生等に関わることを判断に用いるのではなく、その人の素行など今のありのままで判断すること、を理想としています。

そのために、まずはデータを蓄積しながら解析を重ね、信用力を測るためのより適切な特徴量をパートナーとなる家賃保証会社様と共に検討していく必要があります。

従い、現在取得している情報は、特定の属性を持つ人々に対する不当な差別を助長しないためにユーザー様よりご提供いただいている、とご理解いただければと存じます。

データに含まれる事実を科学的に把握した上で、不当な差別・不利益につながらないよう細心の注意をはかってまいります。

以上、長文となり恐縮ですが、改めてこの度は貴重なご意見をくださり、誠に有難うございました。 今後とも変わらぬご愛顧のほど宜しくお願い申し上げます。

個人的に懸念していた点についても考慮されていることを丁寧にお伝えいただき、 疑念はかなり解消されたと感じています。以下、私の返答を転載します。

問い合わせをしておりました入谷です。 この度は個人からの問い合わせにもかかわらず 丁寧なご回答をいただき大変恐れ入ります。

私の周囲でも国籍によって不動産契約等で不利に扱われていると思われる事例を 見聞きしていたため、そのような不当な扱いが滞納予測 AI によって 再生産されることへの心配が問い合わせの背景にありました。 貴社が滞納予測 AI を開発されるにあたり、 不当な扱いを無くすための配慮をされていること、 また少なくとも国籍については現状予測に使われていないことを知り、 その不安については大分解消されたと感じています。

仰る通り、性別等の他の特徴量に関しても、それらが予測に反映されるべきかは、 背景を十分に理解した上で判断されるべきだと感じます。 特に性別等の一部特徴量は本人の意思で変えることが難しいため、 それらの妥当性については引き続きご検討いただけましたら幸いです。

AI による予測では、特徴量を制限することやデータに基づく判断を行うことで、 人間による審査ではどうしても入ってしまう予断や偏見を排除した、 より公平な判断を下せる可能性が有るという点はその通りだと思います。 貴社の AI により、不動産契約でより多くの人が 公平な与信審査を受けられることを願っています。

この度はご回答いただきありがとうございました。