\documentclass[a4j,twocolumn]{jarticle}
\usepackage[dvips]{graphicx}
\usepackage{caption}
\def\maru#1{{\ooalign{\hfil#1\/\hfil\crcr\raise.167ex\hbox{\mathhexbox20D}}}}
\setlength{\topmargin}{10mm}
\setlength{\oddsidemargin}{-5mm}
\setlength{\evensidemargin}{-10mm}
\setlength{\textheight}{230mm}
\setlength{\textwidth}{170mm}
\setlength{\headheight}{0mm}
\setlength{\headsep}{0mm}
\setlength{\parskip}{0mm}
\setlength{\columnsep}{6mm}
\setlength{\baselineskip}{4mm}
%\setlength{\parindent}{5mm}
\makeatletter
\renewcommand{\section}{\@startsection{section}{1}{\z@}%
	{1.5\Cvs \@plus.5\Cdp \@minus.2\Cdp}%
	{.5\Cvs \@plus.3\Cdp}%
	{\reset@font\large\bfseries}}
\renewcommand{\subsection}{\@startsection{subsection}{2}{\z@}%
	{1.5\Cvs \@plus.5\Cdp \@minus.2\Cdp}%
	{.5\Cvs \@plus.3\Cdp}%
	{\reset@font\normalsize\bfseries}}
\renewcommand{\subsubsection}{\@startsection{subsubsection}{3}{\z@}%
	{1.5\Cvs \@plus.5\Cdp \@minus.2\Cdp}%
	{.5\Cvs \@plus.3\Cdp}%
	{\reset@font\small\bfseries}}
\renewcommand{\captionfont}{\small\sffamily}


\title{\bf 構造的類似文の自動検出と縮退方法}
\author{尾高~智大\hspace{5mm}村上~仁一\hspace{5mm}徳久~雅人\hspace{5mm}池原~悟 \\
         鳥取大学工学部知能情報工学科\\
        \{odaka,murakami,tokuhisa,ikehara\}@ike.tottori-u.ac.jp}
\date{}

\renewcommand{\thepage}{}
\pagestyle{empty}

\begin{document}
\maketitle
\makeatother

\section{はじめに}

\vspace{-2mm}

機械翻訳などの自然言語処理において、使用頻度の高い表現や定型的な言い回しなどを収集した日本語共起表現辞書が必要とされている。しかし、辞書に登録する表現を人手で抽出することは、膨大なデータを扱うため困難である。そこで計算機によって自動的に抽出する方法が考えられてきている。従来の方法として、$N$-gramを応用した連鎖共起表現や離散共起表現を抽出する手法{\small [1]}が提案されている。{\small [1]}を応用した研究として単語単位に変換した原文データを用いる方法{\small [2]}や、重文複文に的を絞って適切な単語の置き換えを行い定型的な言い回しを抽出する方法{\small [3]}が行われている。

しかし大規模コーパスからの抽出はコーパスが無かったためにまだ行われていなかった。しかし電子辞書や新聞記事データ等が出版され、それを基に収集することが可能になった{\small [4]}。

そこで本研究では各品詞の置き換えを行い、{\small [1]}の手法を用いて大規模コーパスから重文複文の構造パターンの抽出を試みる。

\vspace{-4mm}

\section{構造パターンの抽出}

\vspace{-2mm}

\subsection{$N$-gramによるパターンの抽出}

\vspace{-2mm}

本研究では、パターンを抽出する方法として、$N$-gramを応用した文字列抽出法{\small [1]}を使用する。{\small [1]}の方法を以下に説明する。

\vspace{-4mm}

\subsubsection{連鎖共起$N$-gram抽出法}
\vspace{-2mm}

連鎖共起$N$-gram抽出法{\small [1]}とは、図1で示す複数文中に2回以上の出現回数を持つ連続した文字列αを抽出する方法である。一度抽出された文字列内部に含まれる部分文字列βを抽出するか否かによって、次の抑制法がある。\\

\vspace{-4mm}

\begin{description}

\vspace{-4mm}

\item [・無抑制型]  すべての部分文字列を抽出対象する。図1中の例文1〜3を処理した結果を例1として示す。
\vspace{-2mm}
\begin{quote}

(例1)「彼はいい」、「彼は」、「いい」等
\end{quote}
\vspace{-2mm}
無抑制型は膨大な候補を出力するため通常使用されない。
\vspace{-3mm}

\item [・弱抑制型]  部分文字列でも、他の場所で独立して出現していれば、抽出の対象とする。図1中の例文1〜3を処理した結果を例2として示す。
\vspace{-2mm}
\begin{quote}
(例2)「彼はいい」、「彼は」
\end{quote}
\vspace{-3mm}

\item [・強抑制型]  部分文字列は一切抽出しない。図1中の例文1〜3を処理した結果を例3として示す。
\vspace{-2mm}
\begin{quote}
(例3)「彼はいい」
\end{quote}
\end{description}

\vspace{-10mm}

\begin{figure}[h]
\begin{center}
\includegraphics[scale=0.8]{fig3.eps}
\vspace{-4mm}

\caption{連鎖共起表現の例}
\end{center}
\end{figure}

\vspace{-10mm}

\subsubsection{離散共起$N$-gram抽出法}
\vspace{-3mm}

離散共起$N$-gram抽出法{\small [1]}とは、図2のγのように原文データの離れた場所に現れ、共起する二つ以上の文字列の組合わせを抽出する方法である。組合わせ数とは離れた場所に現れた文字列の組合せの個数である。図2のγは組み合わせ数３の文字列の抽出である。共起の仕方により、次の抑制法がある。\\

\vspace{-5mm}


\begin{description}

\item [・無抑制型]共起する文字列が文中にあることだけを条件として抽出する。図2中の例文4、5を処理した結果を例4として示す。
\vspace{-2mm}
\begin{quote}
\begin{verbatim}
(例4)
「彼は〜彼は〜選手」,「選手〜有名〜選手」等
\end{verbatim}
\end{quote}
\vspace{-2mm}

\item [・弱抑制型]上記の条件に加え、抽出する文字列は互いに異なるもののみ抽出する。図2中の例文4、5を処理した結果を例5として示す。
\vspace{-2mm}
\begin{quote}
\begin{verbatim}
(例5)
「彼は〜有名〜選手」,「選手〜彼は〜有名」「有名〜選手〜彼は」,「彼は〜選手〜有名」「有名〜彼は〜選手」
\end{verbatim}
\end{quote}

\vspace{-2mm}
\item [・強抑制型]上記の二つの条件に加えてさらに、抽出する表現の先頭の文字列と末尾の文字列との間には、着目する文字列が二回以上現れないものを抽出する。図2中の例文4、5を処理した結果を例6として示す。
\vspace{-2mm}
\begin{quote}
\begin{verbatim}
(例6)
「彼は〜有名〜選手」、「選手〜彼は〜有名」、「有名〜選手〜彼は」
\end{verbatim}
\end{quote}
\end{description}

\vspace{-5mm}

\begin{figure}[h]
\begin{center}
\includegraphics[scale=0.53]{fig4.eps}
\vspace{-5mm}

\caption{離散共起表現の例}
\end{center}
\end{figure}

\vspace{-14mm}

\subsubsection{単語に着目した抽出}
\vspace{-1mm}

$N$-gram抽出法では原文データに対して文字単位もしくは単語単位による抽出を行うことができる。本研究では断片的な文字列の抽出を少なくするために、原文データに対してあらかじめ形態素解析を行い、単語単位による抽出を行なう。

\vspace{-6mm}

\section{抽出実験}
\vspace{-1mm}

\subsection{連鎖共起$N$-gram抽出法による実験}
\vspace{-1mm}

本実験では連鎖共起$N$-gram抽出法では弱抑制型の抽出を行う。強抑制では部分文字列が抽出できない問題があるため行わない。本実験では調査対象を単語数が5以上で構成される単語列で行い、品詞の置き換えを行った場合(3.3節参照)についても調査をする。また単語列を構成する単語数を増やすことでパターン抽出精度の向上が期待できると考え、単語列を構成する単語数が7以上、9以上についても調査を行う。5以下で構成される単語列は文型パターンを成す抽出が少ないため本実験では行わないこととする。

\vspace{-5mm}

\subsection{離散共起$N$-gram抽出法による実験}
\vspace{-1mm}

離散共起$N$-gram抽出法による実験は以下の3つの種類で行い、品詞の置き換えを行った場合(3.3節参照)においても調査する。

\vspace{-2mm}

\begin{description}
\item [\bf 実験条件1)] 弱抑制型で単語列の組み合わせ数3
\vspace{-2mm}
\item [\bf 実験条件2)] 弱抑制型で単語列の組み合わせ数4
\vspace{-2mm}
\item [\bf 実験条件3)] 強抑制型で単語列の組み合わせ数3
\end{description}

\vspace{-4mm}

\subsection{品詞の置き換え}

本研究では重文複文のパターン抽出を効率良く行うために、連鎖共起$N$-gram抽出法による実験、離散共起$N$-gram抽出法による実験それぞれに品詞の置き換えを以下の5つの種類で行う。
\begin{description}
\item [\bf 置き換えA)]単語単位
\vspace{-2mm}
\item [\bf 置き換えB)]名詞→N
\vspace{-2mm}
\item [\bf 置き換えC)]名詞→Nかつ動詞→V
\vspace{-2mm}
\item [\bf 置き換えD)]名詞→Nかつ「NのN」→Nかつ「NN…」→Nかつ「形容詞+N」→N
\vspace{-2mm}
\item [\bf 置き換えE)](4)かつ動詞→V
\end{description}

\vspace{-4mm}

\subsection{精度調査方法}

本研究では重文複文を中心に収集したCREST例文約9万文{\small [4]}に対して$N$-gramを応用した文字列抽出法{\small [1]}を行う。CREST例文は長短様々な重文複文を収集している。更にCREST例文には英語の対訳も掲載されている。CREST例文において、日本文一文を構成する平均単語数は約10.6単語である。CREST例文の一部を以下に示す。

\vspace{1mm}

\begin{quote}
(例文6)
私は慶応義塾大学で教育を受けたので、ビジネスに関する理解、とくに財務、マーケティング及び戦略計画の分野における理解が深まりました。

(例文7)
私は書くペンがない。

\end{quote}

\vspace{1mm}


次に各実験を行い、出力されたデータから抽出頻度数の多い上位100データを対象に、手作業により重文複文のパターンであるかを調査する。調査の例として次の例7、例8の様なデータを抽出したとする。

\vspace{1mm}
(例7)~~~を聞いて喜んだ

(例8)~~~彼の言うことは
\vspace{1mm}

例7の場合、「〜を聞いて、〜喜んだ」といった並列した文に分解できるため、重文のパターンであると判断する。
例8の場合、「言うこと」で埋め込み文となっているため、複文のパターンであると判断する。





\twocolumn[
\begin{center}
表2:連鎖共起データの全抽出種類数
\vspace{1mm}

\begin{tabular}{|c|c|c|c|c|c|}
\hline
単語数 &置き換えA&置き換えB&置き換えC&置き換えD&置き換えE\\
\hline
５以上&4,698&40,259&77,562&33,792 &64,562\\
\hline
７以上&1,031&11,784&38,374&9,194 &30,523 \\
\hline
９以上&252&2,401&10,900&2,165 &8,403 \\
\hline
\end{tabular}
\end{center}

\begin{center}
\hspace{40mm}表3:連鎖共起データの調査結果\hspace{10mm}{\scriptsize 上位100データ対象}
\vspace{1mm}

\begin{tabular}{|c|c|c|c|c|c|}
\hline
単語数 &置き換えA&置き換えB&置き換えC&置き換えD&置き換えE\\
\hline
５以上&21％&2％&57％&14％&63％\\
\hline
７以上&45％&9％&89％&49％&93％ \\
\hline
９以上&57％&46％&100％&69％&100％\\
\hline
\end{tabular}
\end{center}
\vspace{3mm}
]

\section{実験結果}
\subsection{連鎖共起$N$-gram抽出法による実験結果}

連鎖共起$N$-gram抽出法による実験を行った。連鎖共起$N$-gram抽出法によって抽出したパターン例を表1に示す。表1の抽出パターン中の'/'は単語境界を意味する。表1の単語数は抽出したパターンが構成する単語数を意味する。表1の置き換え内の「A,B」等は品詞の置き換え(3.3節参照)内の「置き換えA,置き換えB」に対応している。表1の「評価」は重文複文のパターンを構成していると思われる表現を◯とし、そうでないものを×としている。


\begin{center}
表1:連鎖共起$N$-gram抽出法による抽出パターン例
\vspace{1mm}
\scalebox{0.9}{
\begin{tabular}{|c|c|c|c|}
\hline
抽出パターン&単語数&置き換え&評価\\
\hline
 に/なる/と/思い/ます &    5&A & ◯\\
\hline
 N/は/N/の/ある/N/だ&  7&B & ◯\\
\hline        
 V/て/N/を/V/      &    5&C & ◯\\
\hline
に/気/が/着い/た &   5&A & ×\\
\hline
N/は/N/の/N/を/N & 7&B & × \\
\hline
N/の/N/を/V & 5&C & ×\\


\hline
\end{tabular}}
\end{center}

次に表2に連鎖共起$N$-gram抽出法による全抽出種類数を示す。表2より、単語数を増やすことで全抽出種類数が下がることが示された。

表3に連鎖共起$N$-gram抽出法による抽出パターンの調査結果を示す。表3より、抽出する単語数が多い程、パターンの抽出精度が向上することが示された。表3より、「置き換えB」を行うと抽出精度が悪くなったが、「置き換えC」では抽出精度が良くなった。更に「置き換えB」、「置き換えC」に連続した名詞や「NのN」等の置き換えを行った「置き換えD」、「置き換えE」で精度が向上することが示された。



\subsection{離散共起$N$-gram抽出法による実験結果}

離散共起$N$-gram抽出法による実験を行った。離散共起$N$-gram抽出法による抽出パターン例を表4に示す。表4の条件内の「1,2」等は離散共起$N$-gram抽出法による実験(3.2)内の「実験条件1,実験条件2」に対応している。表4の置き換え内の「A,B」等は品詞の置き換え(3.3)内の「置き換えA,置き換えB」に対応している。表4の「評価」は重文複文のパターンを構成していると思われる表現を◯とし、そうでなかったものを×としている。

\vspace{2mm}
\begin{center}
表4:離散共起$N$-gram抽出法による抽出パターン例
\vspace{1mm}
\scalebox{0.8}{
\begin{tabular}{|c|c|c|c|}
\hline
抽出パターン & 条件&置き換え& 評価\\
\hline
夏休みに〜へなり〜たいと思う  & 1&A & ◯\\
\hline
彼に払うべき〜を払った〜上に礼を &3&A & ◯ \\
\hline
NはNよりたとい〜としても〜はない&3&B&◯\\
\hline
のNで〜Vれる〜N週〜でV & 3&C & ◯ \\
\hline
部と〜の部分〜構成されている & 1&A & ×\\
\hline
の解決策〜一つの戦略〜の戦略へ & 1&A & ×\\
\hline
を始めたの〜たのが〜が５〜５時 & 2&A & ×\\
\hline
NはN上で〜N数をN〜へとNし & 1&D & ×\\
\hline
\end{tabular}}
\end{center}

\vspace{4mm}

次ページに離散共起$N$-gram抽出法による全抽出種類数を表5に示す。表5より、強抑制による全抽出種類数が少なくなることが示された。

離散共起$N$-gram抽出法による抽出パターンの調査結果を次ページの表6に示す。表6より、品詞の置き換えによる抽出精度の傾向は連鎖共起表現による実験結果と類似していた。単語列の組み合わせ数を増やすことで、精度が多少あがることもわかった。強抑制に注目すると、抽出種類数は少ないが抽出精度は高いことがわかる。

\twocolumn[

\begin{center}
表5:離散共起データの全抽出種類数
\vspace{1mm}

\begin{tabular}{|c|c|c|c|c|c|}
\hline
実験条件 &置き換えA&置き換えB&置き換えC&置き換えD&置き換えE\\
\hline
弱抑制型,組み合わせ数3&913&1,805&1,935&1,105&1,291\\
\hline
弱抑制型,組み合わせ数4&1,259&4,281&4,077&1,702&2,268 \\
\hline
強抑制型,組み合わせ数3&13&5&3&9&4\\
\hline
\end{tabular}
\end{center}


\begin{center}
\hspace{50mm}表6:離散共起データの調査結果 \hspace{30mm}{\scriptsize 上位100データ対象}
\vspace{1mm}
\begin{tabular}{|c|c|c|c|c|c|}
\hline
実験条件 &置き換えA&置き換えB&置き換えC&置き換えD&置き換えE\\
\hline
弱抑制型,組み合わせ数3&29％&10％&30％&19％&41％\\
\hline
弱抑制型,組み合わせ数4&34％&14％&37％&29％&46％ \\
\hline
強抑制型,組み合わせ数3&35％(5)&60％(3)&100％(3)&66％(6)&100％(4)\\
\hline
\end{tabular}
\end{center}
\vspace{3mm}
] 


\section{考察}

\vspace{-2mm}

\subsection{名詞の置き換えについての考察}

表2、表4より名詞を置き換える「置き換えB」でパターン抽出精度が悪くなった。置き換え後の抽出データを調べると大半が「NはNのNNに」等の名詞句の抽出であった。そのため名詞や連続名詞を置き換える「置き換えD」を行うことで精度が向上したと考えられる。

\vspace{-4mm}

\subsection{動詞の置き換えについての考察}



表2、表4より動詞を置き換えることによりパターン抽出精度が向上した。しかし抽出したパターンから意味まで理解するのは、動詞は文の中心となる品詞であるため困難な場合が多い。例を例9、例10に示す。

\vspace{1mm}
(例9)~~V/て/V/V/た


(例10)~~N/を/V/て/N/を/Vた
\vspace{1mm}

例9、例10は重文複文の構造であることは判るが、意味を判断することは困難であると考えられる。

\vspace{-4mm}

\subsection{離散共起$N$-gram抽出法の弱抑制についての考察}
\vspace{-2mm}

離散共起表現$N$-gram抽出法における弱抑制では、重なった表現が多数抽出された。
表5より、「組み合わせ数4」による全抽出数は「組み合わせ数3」による全抽出数の、約2倍抽出されたことがわかる。しかし「組み合わせ数4」による実験で抽出されたデータを調査したところ、重なった表現の抽出が「組み合わせ数3」による抽出データよりも更に多く見られた。したがって重なった表現の抽出により全抽出数の増加に影響したと考えている。本実験において「組み合わせ数4」による抽出は効果があまり見られなかったと思われる。

\vspace{-4mm}

\subsection{離散共起$N$-gram抽出法の強抑制についての考察}
\vspace{-2mm}

表4より強抑制による全抽出種類数が少なかった。原因は本研究で使用したコーパスが一般的に用いられる重文複文を収集したため、1文を構成する単語数が少ないと考えられる。そのため実験を行う際に、「離散共起$N$-gram抽出法における強抑制型組み合わせ数３」の抽出条件を満たせなかったと考えている。しかし抽出種類数が少ないものの抽出精度は高かった。


\vspace{-7mm}

\section{おわりに}

\vspace{-2mm}

本研究では、各品詞の置き換えを行い$N$-gram抽出法{\small [1]}を用いて、大規模コーパスから重文複文の構造パターンの抽出を行った。実験の結果、品詞の置き換えは文の意味を残すことを考慮すると、本研究では名詞や連続した名詞を置き換える「置き換えD」が最も効率良くパターンを抽出できたと考えている。離散共起$N$-gram抽出法の強抑制による実験ではパターンの抽出数が少なくなり、良好な結果を得られなかった。

今後の課題として新たな単語単位での抽出法の考案と、コーパスをさらに拡大化し抽出パターン種類の充実化が必要である。

\vspace{-7mm}

\section*{参考文献}
\vspace{-2mm}
\hspace{-2.5mm}[1]池原、白井、河岡：大規模コーパスから連鎖型および離散型の共起表現の自動抽出法,情報処理学会論文誌Vol.36(1995)\\
\vspace{-1mm}
[2]山田：N-gram統計を応用した文型パターンの自動抽出法の研究,鳥取大学卒業論文(1998)\\
\vspace{-1mm}
[3]斎藤：大規模コーパスからの重文復文の統語構造の自動抽出,鳥取大学卒業論文(2000)\\
\vspace{-1mm}
[4]村上、池原、徳久：日本語英語の文対応の対訳データベースの作成,「言語、認識、表現」第７回年次研究会,(2002.11)


\end{document}
