Flickrで三ヶ月になった赤ちゃんの写真をAzureで顔認識して奥さんにLINEで通知してみた

8 min read読了の目安(約7500字

やったこと

普段はスマホアプリエンジニアですが、ゴールデンウィークだったのでFlickr + Azure Face API + Integromat + Azure Functions + LINE NotifyでFlickrの写真の顔認識をしてLINE Notify APIで奥さんに共有するのを作ってみました。

なお、Flickrが有料会員なの以外は無料枠で構成。

全体の構成はこんな感じ。

IntegromatのScenarioはこんな感じ。

Azure FunctionからAzure Face APIを操作しているCodeはここに置いておきました。

https://github.com/francais-harry/face-api-azure-function

それ*oogle Photoで元々出来んじゃね?

  1. 15年近くFlickrを使っていて有料課金もずっとしてた
  2. *oogleさん、肌色多めの子供の写真があると事前警告なしでいきなりアカウントごとBanしてくるらしい[1][2]
    Flickrの運営がどう判断するのかは分からないけど、もうちょっと穏便そう?(危なそうな写真はSafety levelを設定していた方が良さそう)
    https://www.flickr.com/help/forum/en-us/72157624170020268/#reply72157624179451086
  3. エンジニアだし自分でやりたい

Azure Functions使えるならばIntegromatは不要では?

  1. FlickrとLINEのOAuth2.0のログイン関連部分を作るのが面倒、Integromatならtokenのrefreshも勝手にしてくれる
  2. Integromatちょっと興味があった

Azure Face API

ググった限り、米国では近年Face Recognitionと人種問題の絡みで炎上してIBMが研究を停止したり[3][4]していて、Face Detection APIの提供をしているところはいくつかあるものの、Face Recognition APIを提供しているのは主だったところはMicrosoftしかない模様。

https://azure.microsoft.com/ja-jp/services/cognitive-services/face/

Face Detection -> 写真の中に顔があるかの判定
Face Recognition -> 写真に写っているのが誰かの判定

一分間に20回以下の呼び出しなら月30,000回まで無料らしい[5]

MicrosoftのクイックスタートとPython SDKがわざわざ日本語で準備してくれてるし良く出来ていて、それ通りやればほとんど困らなかった。

https://docs.microsoft.com/ja-jp/azure/cognitive-services/face/quickstarts/client-libraries?tabs=visual-studio&pivots=programming-language-python

クイックスタートに書いてある通りですが、

事前準備

  1. person_groupを作る
  2. その中にpersonを作ってperson_idを適当にメモしておく(Nameからperson_idを取るAPIもあるみたいだけど、面倒なので)
    face_client.person_group.create(
        person_group_id=PERSON_GROUP_ID, name=PERSON_GROUP_ID, recognition_model=RECOGNITION_MODEL)

    kid = face_client.person_group_person.create(PERSON_GROUP_ID, "Kid")
    print(f'Kid={kid}')
  1. 教師画像を用意してperson_idに登録する(正面で一人で写っている写真ならば、特に顔の範囲をcropしなくても良いみたい)
    face_client.person_group_person.add_face_from_url(
        PERSON_GROUP_ID, person_id, url, detection_model=DETECTION_MODEL)
  1. person_grouptrainして、学習が終わるのを待つ。6枚ほど教師画像を用意したけど、すぐ終わるらしく、状態を確認するコードを書いて確認する頃には終わってた。
    face_client.person_group.train(PERSON_GROUP_ID)
    status = face_client.person_group.get_training_status(PERSON_GROUP_ID)
    print(f'status={status}')

認識の流れ

  1. detect_with_urlで画像内の顔を探してきて
    faces = face_client.face.detect_with_url(
        url=url, detection_model=DETECTION_MODEL, recognition_model=RECOGNITION_MODEL)
    if not faces:
        return None

    face_ids = list(map(lambda x: x.face_id, faces))
  1. 見つかった顔をface_client.face.identify(face_ids, PERSON_GROUP_ID)person_group内の顔と一致するか判定
    results = face_client.face.identify(face_ids, PERSON_GROUP_ID)

    if not results:
        print(f'No matching face identified')
        return None

    candidates = []
    for result in results:
        if len(result.candidates) > 0:
            # Append top most candidate only
            candidate = result.candidates[0]
            print(f'candidate={candidate}')
            candidates.append(candidate)
  1. candidateの結果が返ってくるのであれば、そのperson_idが探したい人と一致しているか判定
    result = any(candidate.person_id == KID_PERSON_ID for candidate in candidates)

という感じです。

唯一ちょっとはまったのは、認識精度を高めるために新しいversionのdetection_modelrecognition_modelを指定した方が良いらしい[6]ものの、person_group.createで指定していたrecognition_model

    face_client.person_group.create(
        person_group_id=PERSON_GROUP_ID, name=PERSON_GROUP_ID, recognition_model=RECOGNITION_MODEL)

face.detect_with_urlにも同じように指定しないといけないところを忘れて、defaultのrecogntion_01が使われてエラーを吐いたのに悩んだぐらい。ちゃんと指定したら動いた。

    detected_faces = face_client.face.detect_with_url(
        url=url, detection_model=DETECTION_MODEL, recognition_model=RECOGNITION_MODEL)

全体的なコードはこちら。

https://github.com/francais-harry/face-api-azure-function/blob/master/face_identity.py

肝心な認識精度ですが、わざと他の赤ちゃんの画像を入れてfalse positiveが出るかとかは試してないものの、抱っこされて顔の一部が隠れていてもピントがぼけててもバッチリ検出されてUse case的には何ら問題ない感じ。

Azure Functions

Azure Face APIを使うならAzure Functionsが良いのだろうという安直な発想でチョイス。初めてちゃんと触ったけど、公式Youtube見たら特に困らなかった。ちょっと気をつけたのはauthLevel=functionに設定して匿名アクセスをブロックしたぐらい[7]?Azure Functions Extensionがめっちゃ便利。

https://www.youtube.com/watch?v=9bMsdBYy-D0

一回vscodeのAzure Accountの状態がおかしくなってExtension削除して再インストールしたけど"No subscriptions were found"ってなって何でじゃと思ったけど、ログアウトしてログインしたら直った。Extension再インストールしてもアカウント情報消えなくて、ログアウトのGUIも無くてCommand Pallete経由でないとログアウト出来ないのは驚いたけど。

https://stackoverflow.com/a/53707442

Azure Functionsの呼び出し関連の処理は大した事やっていませんが、このあたりです。
https://github.com/francais-harry/face-api-azure-function/blob/master/face_identification/init.py

Integromat

https://www.integromat.com/

IFTTT的だけど、多段で色々Moduleをつなげられたり、条件分岐とかを書けるサービス。FlickrやLINEなど連携できるサービスも多くて便利。個々のModuleを実行するのをOperationと言い、月額料金によって(ModuleをつなげたScenarioの実行回数ではなく)Operationや転送データ量の上限が変わる。

今回のScenarioの場合は、Scenario一回あたりLoopの回り方によっては20以上のOperationを消費するので、Pollingは数時間に一回程度が無料アカウント(Operation月1000回が上限[8])だと限界。一日一回でも良いかも。

Azure Face APIは無料枠だと一分間に20回まで[5:1]なので、Flickr watch photos triggerを一回に最大20 photosに制限しているのと、デジタル一眼で撮った高解像度の画像を送ったところFace APIが「大きすぎる」とエラーを吐いたので、Integromat側でFlickrのSuffixのSpecに従って、少し小さめの画像のURLになるようreplaceで文字置き換えをしてます(API reference)。あと、Azure Functionsの呼び出しにはx-functions-keyを指定して匿名アクセスをブロックしてます[7:1]

LINE連携についてはIntegromatのメニューにいっぱい項目が出てきますが、"Notify API"の"Send a Notification"を選んでおけば簡単で良いかと思います。

頑張ればLINE公式アカウントを自分で作成してIntegromatと連携できるみたいですが、単純な通知であればLINE Notifyで十分かと。

https://notify-bot.line.me/ja/

あと、子供の画像を20枚Uploadすると20回連続でLINEの通知が来るのがうざかったのでText aggregatorを使ってURLを一つのTextにまとめてます。公式Youtubeが参考になりました。

https://www.youtube.com/watch?v=vlq1rz50lqY

まとめ

という訳で、無事にゴールデンウィーク中にFlickrに上げた写真から子供の写真を検知してLINEに通知を飛ばして奥さんと共有する仕組みを作れました。工夫したところとしては「赤ちゃんの世話もしないで休み中ずっとパソコンいじってる!」と思われないよう、

  1. 奥さんに最初に作りたいものを説明
  2. 毎日の進捗報告
  3. デモをして成果報告

と、Product Ownerとの情報共有を欠かさないようにしました。無事、「私の写真もそこに入れたい」という貴重なBacklog itemの追加を頂いたのと、Integromat側の対応が出来ていないのか動画がハンドリングできていないので、そのあたりを時間があれば何とかしたい。(「お腹空いた!」「おむつ気持ち悪い!」「眠い!」でランダムな割り込み処理をしてくるのを相手しながらは想像以上に大変でした・・・眠いなら寝れば良いのに・・・)

脚注
  1. https://hitoxu.com/027396 ↩︎

  2. https://nlab.itmedia.co.jp/nl/articles/1306/25/news042.html ↩︎

  3. https://www.theverge.com/2020/6/8/21284683/ibm-no-longer-general-purpose-facial-recognition-analysis-software ↩︎

  4. https://sitn.hms.harvard.edu/flash/2020/racial-discrimination-in-face-recognition-technology/ ↩︎

  5. https://azure.microsoft.com/ja-jp/pricing/details/cognitive-services/face-api/ ↩︎ ↩︎

  6. https://docs.microsoft.com/ja-jp/azure/cognitive-services/face/releasenotes#new-face-api-detection-model ↩︎

  7. https://docs.microsoft.com/ja-jp/azure/azure-functions/functions-bindings-http-webhook-trigger?tabs=csharp#api-key-authorization ↩︎ ↩︎

  8. https://www.integromat.com/en/pricing ↩︎