甲骨文字で書かれた文章をOCRで読み取れるようにしてみる

Pocket

先日、某無料オンライン大学講座にて、「白川フォント」というものが無料で公開されていることを知りました。
これは、甲骨・金文などの古代文字のためのもので、『現代の漢字を入力するのと同じように、簡単に古代文字の入力が出来ます。』(引用:白川フォントとのことです。つまり、外字ではなく、対応する現代漢字と同じ文字コードが使われているとのことでした。

また、ちょうどOCRについて調べていたこともあり、このフォントで書かれた文字列を読み取ってみたいと思いました。フォントで提供されている文字が外字になっていないということは、甲骨文字フォントの文字認識がうまくいけば、甲骨文字を現在の文字に変換できるはずです。

では、OCRの基本的な処理を、オープンソースの「Tesseract」を用いて、実際にやってみます!

< 実施環境 >

  • 実行マシン: Windows 10 Pro 64bit
  • 利用した主要なソフトウェア/ライブラリ: Tesseract、PyOCR、jTessBoxEditor
  • 言語: python 3.6(Anaconda)

< 進め方 

  1. データ準備
  2. 実行環境の準備
  3. 認識結果の確認(①:デフォルトの状態での認識結果)
  4. Tesseractの学習

  5. 認識結果の確認(②:学習済みの状態での認識結果)

 

データ準備

最初に、OCRに認識させたい画像の準備を行います。
(以下で、利用するフォントをインストールしていますが、これは画像の作成だけでなく、後述の学習でも必要となります。)

「白川フォント」のインストール

  1. まず、下記サイトに遷移し、フォントをダウンロードします。
    (今回は「白川甲骨文字」(「ShirakawaKoukotsu_v1.03.ttf」)を利用します。)
    http://www.dl.is.ritsumei.ac.jp/Shirakawa/search/?#downloads
  2. フォントをインストールします。
    1. ダウンロードできたら、そのファイルをダブルクリックして、
      開いたウィンドウ上部にある「インストール」をクリックします。

「白川フォント」で書かれた文字を含む画像を準備

  1. ペイントを起動します。
  2. フォントに「白川甲骨」を指定して、下図のような文字を入力します。
    (「山川洋子さん おはようございます」と入力しています。)
  3. 上記をpngとして保存します。

 

実行環境の準備

OCRの実行に必要なTesseractとそれをPythonで利用する為のPyOCRを利用する環境を準備します。

Tesseractのインストール

TesseractはオープンソースのOCRです。
元々は英語を処理する為に作られたようですが、ドイツのマンハイム大学が公開しているWindows環境でのインストーラには、トレーニングツール以外に日本語のトレーニングデータも含まれていますので、今回はこれを利用します。

  1. インストーラ(「tesseract-ocr-setup-3.05.01.exe」)をダウンロードします。
    https://github.com/UB-Mannheim/tesseract/wiki
  2. インストーラを実行し、ウィザードに従い、インストールを行います。
    1. 注意点:
      1. 「Additional language data (download)」から「Japanese」を選択します。

      2. このインストールフォルダを後で環境変数に追加するので、覚えて下さい。
  3. 環境変数「Path」に上記のパスを追加します。

 

PyOCRのインストール

PyOCRは他のOCRツールを利用する為のPython用ラッパーです。
今回は、このPyOCRを通して、PythonでTesseractを利用することになります。

  1. 下記コマンドにてインストールを行います。 

     

認識結果の確認(①:デフォルトの状態での認識結果)

OCRの実行環境が整ったので、デフォルトの状態のままで、認識結果を確認してみます。

  1. 認識結果
    日本語は認識できていますが、甲骨文字をうまく認識できていませんね。

    1. 使用言語:インストール時に追加で導入した日本語トレーニングデータ
      ※Tessaractが認識したワード(=図中の赤い枠)と
       その認識結果(=図の上部に出力している文字列)

  2. ソースコード
    ※jupyter notebook で実行したコード 

     

Tesseractの学習

デフォルトのままでは、うまく認識できなかったので、学習を行います。

まずは、学習に必要なツール「jTessBoxEditor」を準備します。

jTessBoxEditorのインストール

Tesseract用の学習データを作成する為のツール「jTessBoxEditor」をインストールします。

インストール方法

  1. 下記よりzipファイル「jTessBoxEditor-2.0.zip」をダウンロードします。
    https://sourceforge.net/projects/vietocr/files/jTessBoxEditor/
  2. 上記zipファイルを適当なフォルダに解凍します。

起動方法

  1. jTessBoxEditor.jar をダブルクリック or 下記コマンド  で起動します。

    ※実行には、JRE8以上が必要です。

学習データの作成

iTessBoxEditorを用いて、学習データを作成します。

  1. 「tif」ファイル、「box」ファイル、「font_properties」ファイルを作成します。
    1. iTessBoxEditorを起動し、「TIFF/Box Generator 」タブを開きます。
    2. 上図(1)に学習済み言語を表す英字を入力します。(英字は自分で決めます。今回は「srk」としておきます)
    3. 上図(2)をクリックすると、下図のウィンドウが表示されるので、「白川フォント」を指定します。
    4. 上図(3)に学習させたい文字を入力します。
      下の例では、「山川洋子」と入力しています。
    5. 「Generate」ボタンをクリックし、処理を実行します。
      ※もし下図のように「Generate」ボタンが画面サイズに収まらず、表示できていない場合は、
       図の赤丸で囲んだ箇所をiTessBoxEditorのウィンドウ外にドラッグして、ウィンドウとの結合を解除すると表示されます。

       ↓

      ※実行時にエラー「java.lnag.NullPointerException」が表示されましたが、フォントサイズを大きくしたり、iTessBoxEditorを再起動すると、エラーが解消されました。

    6. 正常に処理が終わると次のようなファイルが生成されます。
      ※出力先は、「Output」欄にあるフォルダとなります。

      • srk.白川甲骨.exp0.box
      • srk.白川甲骨.exp0.tif
      • srk.白川甲骨.font_properties
  2. 「word_list」ファイル、「frequent_word_list」ファイルを作成します。

    1. 中身は空のままでよく、ファイル名を次のようにします。
      (※「srk」は前手順で指定した任意の文字列です)

      • srk.words_list
      • srk.frequent_words_list
  3. 上記で作った5つのファイルを任意のフォルダを作り、そこに保管します。

学習の実行

学習データができあがったので、学習を行います。

  1. iTessBoxEditorを起動し、「Trainer 」タブを開きます。

    1. 次のように入力します。
      1. Traininig Data(1):上記で生成したファイル「srk.白川甲骨.exp0.box」を選択します。
      2. Language(2):「skr」と入力します。
      3. Training Mode(3):「Train with Existing Box」を選択します。
    2. 入力が完了したら、「Run(4)」ボタンをクリックし、処理を実行します。
    3. 『** Moving generated traineddata file to tessdata folder **  (改行) ** Training Completed **』と表示されたら、完了です。
    4. 上記入力で「Traininig Data」に指定したファイルがあるフォルダに、「tessdata」フォルダが作成され、
      学習済みデータ「srk.traineddata」が生成されています。

  2. 学習済みデータをTesseractの環境にコピーします。
    1. 例)C:\Users\(ユーザ名)\AppData\Local\Tesseract-OCR\tessdata

 

認識結果の確認(②:学習済みの状態での認識結果)

学習が終わり、その結果を適用できるようになりましたので、認識結果がどうなるのか確認してみましょう。

  1. 認識結果
    今回は、学習データを何種類か作成してみました。それぞれの結果は以下の通りです。

    ※1 学習データ」について:
      前述のツール「iTessBoxEditor」で「box」ファイル等を作成した時に入力した文字列のことを指します。
    ※2 フォントに含まれる文字の出力について:
      詳しい処理内容は省略しますが、Python用ライブラリである「fontTools」を用いて、フォントデータをXMLに変換して、抜き出しました。
    ※3 図中の赤い枠は、Tesseractが認識した領域です図の上部に出力している文字列は、その認識結果です。

     
    使用言語
    学習データ ※1
    認識結果
    認識結果(画像)※3
    1 日本語
    +
    右記学習データ
    文字列「山川洋子」 日本語しか認識できていない

    2 日本語
    +
    右記学習データ
    白川甲骨文字フォントに収録されているほぼ全てである約600個の文字を羅列したもの
    (1行に書き出したもの) ※2
    「山川」は認識できた!

    3 日本語
    +
    右記学習データ
    白川甲骨文字フォントに収録されているほぼ全てである約600個の文字を羅列したもの
    (文字毎に改行したもの) ※2
    「山川」は認識できた!

    4 日本語
    +
    右記学習データ

    白川甲骨文字フォントに収録されているほぼ全てである約600個の文字を羅列したもの
    (文字毎に改行し、それを5回繰り返したもの) ※2

    すべての認識できた!

  2. ソースコード
    今回は何種類かの学習データで結果を確認しました。学習データを用意すると、「tool.get_available_languages()」で取得される結果がその分だけ増加します。その中から、利用したいものを”+”で結合した文字列を言語として設定することで、適用されます。

    ※jupyter notebook での実行用コード  

     

まとめ

気付いている方もいると思いますが、実は今回、認識しやすいように、画像中の1行目と2行目の間や、甲骨文字とひらがなの間にスペースを作っています。認識精度の向上には学習の前に、画像自体のデータ前処理や、実行時のパラメータ設定での確認も必要になります。それらに関する内容は、次のサイトに公開されていますので、興味のある方は参考にしてみて下さい。

また、今回利用したTesseractのバージョンは、3.05ですが、現時点でベータ版であるバージョン4では「LSTMエンジン」を利用しているということなので、どのような結果になるか楽しみです。

お問い合わせ先

執筆者プロフィール

Oose Takashi
Oose Takashitdi IT技術推進部
入社以来、C/S型の業務システム開発に従事してきました。ここ数年は、SalesforceやOutSystemsなどの製品や、スクラム開発手法に取り組み、現在のテーマは、DeepLearning/機械学習です。
Pocket

関連記事