TOP > 国内特許検索 > GMDHを用いた非線形PIDコントローラおよびGMDH重み係数決定方法 > 明細書

明細書 :GMDHを用いた非線形PIDコントローラおよびGMDH重み係数決定方法

発行国 日本国特許庁(JP)
公報種別 公開特許公報(A)
公開番号 特開2014-153949 (P2014-153949A)
公開日 平成26年8月25日(2014.8.25)
発明の名称または考案の名称 GMDHを用いた非線形PIDコントローラおよびGMDH重み係数決定方法
国際特許分類 G05B  13/02        (2006.01)
FI G05B 13/02 L
請求項の数または発明の数 5
出願形態 OL
全頁数 16
出願番号 特願2013-023652 (P2013-023652)
出願日 平成25年2月8日(2013.2.8)
新規性喪失の例外の表示 特許法第30条第2項適用申請有り 平成24年8月30日に公益社団法人 計測自動制御学会の第22回インテリジェント・システム・シンポジウム、Fuzzy,Artificial Intelligence,Neural Networks and Computational Intelligence(FAN Symposium 2012 in Okinawa)講演予稿集にて発表 平成24年9月5日に一般社団法人 電気学会の平成24年 電気学会 電子・情報・システム部門大会の講演予稿集、第209-212頁にて発表 平成24年11月3日にVBL院生会研究シーズのビジネス化コンペにて発表 平成24年11月12日にICONIP(The International Conference on Neural Information Processing)2012の19th International Conference講演予稿集、第169-176頁にて発表 平成24年11月17日にIEEE広島支部の学生の,学生による,社会のための第14回広島支部学生シンポジウム論文集、第23-26頁にて発表
発明者または考案者 【氏名】山本 透
【氏名】脇谷 伸
出願人 【識別番号】504136568
【氏名又は名称】国立大学法人広島大学
個別代理人の代理人 【識別番号】110001427、【氏名又は名称】特許業務法人前田特許事務所
審査請求 未請求
テーマコード 5H004
Fターム 5H004GA34
5H004GB01
5H004KA01
5H004KB01
5H004KC27
5H004KD32
5H004KD47
5H004MA36
要約 【課題】より少ない容量のメモリで動作可能な非線形PIDコントローラを提供する。
【解決手段】非線形PIDコントローラ(10A)は、制御対象の非線形システム(100)の出力値と目標値との偏差を算出する偏差演算部(12)と、偏差の微分値を算出する微分演算部(14)と、目標値、偏差、および微分値の3値からGMDH理論に基づいて非線形システムのPID制御に係る比例ゲイン、積分ゲイン、および微分ゲインを算出するGMHD-PID調整部(16A)と、偏差に基づいて、算出された比例ゲイン、積分ゲイン、および微分ゲインで非線形システムをPID制御するPID制御部(18)とを備えている。
【選択図】図5
特許請求の範囲 【請求項1】
制御対象の非線形システムの出力値と目標値との偏差を算出する偏差演算部と、
前記偏差の微分値を算出する微分演算部と、
前記目標値、前記偏差、および前記微分値の3値からGMDH(Group Methodof Data Handling)理論に基づいて前記非線形システムのPID制御に係る比例ゲイン、積分ゲイン、および微分ゲインを算出するGMHD-PID調整部と、
前記偏差に基づいて、前記算出された比例ゲイン、積分ゲイン、および微分ゲインで前記非線形システムをPID制御するPID制御部とを備えている
ことを特徴とする非線形PIDコントローラ。
【請求項2】
請求項1に記載の非線形PIDコントローラにおいて、
前記GMHD-PID調整部が、各GMDHネットワークで前記3値から前記各ゲインを個別に算出するものであり、
前記各GMDHネットワークが、アダライン演算子が階層的に接続されてなる
ことを特徴とする非線形PIDコントローラ。
【請求項3】
請求項2に記載の非線形PIDコントローラにおいて、
前記各GMDHネットワークが、前記3値のいずれか二つが入力される第1および第2のアダライン演算子と、前記第1のアダライン演算子の出力および前記第2のアダライン演算子の出力が入力される第3のアダライン演算子とからなる
ことを特徴とする非線形PIDコントローラ。
【請求項4】
請求項1から3のいずれか一つに記載の非線形PIDコントローラにおけるGMDHの重み係数を決定する方法において、
前記3値から前記非線形システムのPID制御に係る比例ゲイン、積分ゲイン、および微分ゲインを個別に算出する各CMAC(Cerebellar Model Articulation Controller)をコンピュータ上に構築し、
前記各CMACに前記非線形システムのPID制御に係る学習をさせ、
学習済みの前記各CMACの入出力サンプルデータに基づいて、前記3値から前記各ゲインを算出する各GMDHネットワークの重み係数を決定する
ことを特徴とするGMDH重み係数決定方法。
【請求項5】
請求項4に記載のGMDH重み係数決定方法において、
前記3値のいずれか二つが入力される2個のアダライン演算子が1階層目に配置され、前記1階層目の2個のアダライン演算子の出力が入力されるアダライン演算子が2階層目に配置された3つのGMDHネットワークのそれぞれについて、前記入出力サンプルデータに基づいて、前記第1階層目の2個のアダライン演算子の重み係数を決定し、
前記1階層目の2個のアダライン演算子の重み係数の決定後に、再度前記入出力サンプルデータに基づいて、前記2階層目のアダライン演算子の重み係数を決定し、
すべてのアダライン演算子の重み係数の決定後に、前記3つのGMDHネットワークのそれぞれの寄与率を計算し、
前記3つのGMDHネットワークの中から前記寄与率が高いいずれか一つを選択し、当該選択したGMDHネットワークの重み係数を、前記3値から前記各ゲインを算出する各GMDHネットワークの重み係数として決定する
ことを特徴とするGMDH重み係数決定方法。
発明の詳細な説明 【技術分野】
【0001】
本発明は、PIDコントローラに関し、特に、非線形システムをPID制御する非線形PIDコントローラに関する。
【背景技術】
【0002】
産業プロセスにおいては、制御構造の簡便さから今なおPID制御が幅広く用いられている。しかしながら、実システムの多くは非線形性を有しており、固定のPIDパラメータによる制御では、常に良好な制御結果を得ることが困難である。このような非線形システムに対する有効な制御手法として、ニューラルネットワーク(Neural Network:NN)の一種である小脳演算モデル(Cerebellar Model Articulation Controller:CMAC)を用いたCMAC-PID制御器が提案されている(たとえば、非特許文献1参照)。しかしながら、最適な制御パラメータを習得するためにオンライン学習が必要なことや、制御系の実現に多大なメモリを要することが実用化への大きな障害となっている。前者の問題の解決法として、CMAC-FRITがすでに報告されている(たとえば、非特許文献2参照)。これは対象とするシステムの閉ループデータから制御パラメータを直接的に算出するFRIT(Fictious Reference Iterative Tuning)法をCMACの学習に取り入れることで、システムのエミュレータを構築することなく、オフラインでCMACの学習をすることが可能となる手法である。
【先行技術文献】
【0003】

【非特許文献1】黒住亮太・山本透:「小脳演算モデルを用いたインテリジェントPID制御系の一設計」、電気学会論文誌.C,Vol.125、No.4、607-615、(2005)
【非特許文献2】脇谷・大西・山本:「非線形システムに対するFRITを用いたCMAC-PID制御器の一設計」、計測自動制御学会論文集、Vol.48、No.12(2012)
【発明の概要】
【発明が解決しようとする課題】
【0004】
CMAC-PID制御器はPIDの各パラメータごとに3次元の入力空間を有するCMACを用いるためその荷重表は膨大なものとなる。このため、CMAC-PID制御器をマイコンなどで実現する場合、CMACの荷重表を格納するために大容量のメモリが必要となる。しかしながら、大容量のメモリをマイコンに搭載することはコスト面から不利である。
【0005】
上記問題に鑑み、本発明は、CMAC-PID制御器のメモリ容量の問題を解決することを目的とし、より少ない容量のメモリで動作可能な非線形PIDコントローラを提供することを課題とする。
【課題を解決するための手段】
【0006】
本発明の一局面に従った非線形PIDコントローラは、制御対象の非線形システムの出力値と目標値との偏差を算出する偏差演算部と、前記偏差の微分値を算出する微分演算部と、前記目標値、前記偏差、および前記微分値の3値からGMDH(Group Method of Data Handling)理論に基づいて前記非線形システムのPID制御に係る比例ゲイン、積分ゲイン、および微分ゲインを算出するGMHD-PID調整部と、前記偏差に基づいて、前記算出された比例ゲイン、積分ゲイン、および微分ゲインで前記非線形システムをPID制御するPID制御部とを備えている。
【0007】
これによると、GMDHを用いてPID制御に係るゲイン調整が行われる。GMDHはネットワークモデルの一つであり、たとえば学習を通して構築されたCMACを非線形モデルとして近似表現することができる。GMDHでは重み係数のみをメモリに記憶しておけばよいため、必要なメモリ容量を削減することができる。また、操業中のPIDゲインの算出に関わる計算コストも大幅に削減することが可能となる。
【0008】
具体的には、前記GMHD-PID調整部が、各GMDHネットワークで前記3値から前記各ゲインを個別に算出するものであり、前記各GMDHネットワークが、アダライン演算子が階層的に接続されてなる。
【0009】
さらに具体的には、前記各GMDHネットワークが、前記3値のいずれか二つが入力される第1および第2のアダライン演算子と、前記第1のアダライン演算子の出力および前記第2のアダライン演算子の出力が入力される第3のアダライン演算子とからなる。
【0010】
また、本発明の別の局面に従うと、上記の非線形PIDコントローラにおけるGMDHの重み係数を決定する方法は、前記3値から前記非線形システムのPID制御に係る比例ゲイン、積分ゲイン、および微分ゲインを個別に算出する各CMAC(Cerebellar Model Articulation Controller)をコンピュータ上に構築し、前記各CMACに前記非線形システムのPID制御に係る学習をさせ、学習済みの前記各CMACの入出力サンプルデータに基づいて、前記3値から前記各ゲインを算出する各GMDHネットワークの重み係数を決定する。
【0011】
上記のGMDH重み係数決定方法において、前記3値のいずれか二つが入力される2個のアダライン演算子が1階層目に配置され、前記1階層目の2個のアダライン演算子の出力が入力されるアダライン演算子が2階層目に配置された3つのGMDHネットワークのそれぞれについて、前記入出力サンプルデータに基づいて、前記第1階層目の2個のアダライン演算子の重み係数を決定し、前記1階層目の2個のアダライン演算子の重み係数の決定後に、再度前記入出力サンプルデータに基づいて、前記2階層目のアダライン演算子の重み係数を決定し、すべてのアダライン演算子の重み係数の決定後に、前記3つのGMDHネットワークのそれぞれの寄与率を計算し、前記3つのGMDHネットワークの中から前記寄与率が高いいずれか一つを選択し、当該選択したGMDHネットワークの重み係数を、前記3値から前記各ゲインを算出する各GMDHネットワークの重み係数として決定する。
【発明の効果】
【0012】
本発明によると、CMAC-PID制御器のメモリ容量の問題が解決され、より少ない容量のメモリで動作可能な非線形PIDコントローラを実現することができる。
【図面の簡単な説明】
【0013】
【図1】CMAC-PID制御器のブロック線図
【図2】CMAC-PID調整部の構成図
【図3】CMACを示す模式図
【図4】CMAC-FRITのブロック線図
【図5】本発明の一実施形態に係る非線形PIDコントローラ(GMDH-PID制御器)のブロック線図
【図6】GMDHネットワークを示す模式図
【図7】アダライン演算子の構造を示す模式図
【図8】Billinearモデルの静特性を示すグラフ
【図9】固定PID制御器による制御結果を示すグラフ
【図10】CMAC-PID制御器による制御結果を示すグラフ
【図11】図10の制御結果に対応するPIDゲインの推移を示すグラフ
【図12】GMDH-PID制御器による制御結果を示すグラフ
【図13】図12の制御結果に対応するPIDゲインの推移を示すグラフ
【図14】固定PID制御器による別の制御結果を示すグラフ
【図15】CMAC-PID制御器による汎化能力検証の制御結果を示すグラフ
【図16】GMDH-PID制御器による汎化能力検証の制御結果を示すグラフ
【図17】図15の制御結果に対応するPIDゲインの推移を示すグラフ
【図18】図16の制御結果に対応するPIDゲインの推移を示すグラフ
【発明を実施するための形態】
【0014】
本発明の一実施形態に係る非線形PIDコントローラは、まずCMAC-PID制御器を生成し、当該CMAC-PID制御器の学習を行った後、CMACをGMDH理論に基づく非線形関数で近似することで生成される。以下、図面を参照しながら、本発明の一実施形態に係る非線形PIDコントローラの生成過程および構成について説明する。なお、同様の構成要素には同様の符号を付してその説明は繰り返さない。

【0015】
≪CMAC-PID制御系の設計≫
制御則として、次式で与えられる速度型PID制御則を考える。

【0016】
【数1】
JP2014153949A_000003t.gif

【0017】
ここで、u(t)は制御入力であり、e(t)は次式で定義される制御偏差を示す。K(t)、K(t)、K(t)はそれぞれ各時刻における比例ゲイン、積分ゲイン、微分ゲインである。

【0018】
【数2】
JP2014153949A_000004t.gif

【0019】
(2)式において、r(t)およびy(t)はそれぞれ目標値、システム出力を示している。さらにΔは差分演算子でありΔ:=1-z-1で定義される。また、z-1は遅延演算子を表しz-1e(t)=e(t-1)を意味する。CMAC-PID制御器では、時刻tにおけるPIDゲインK(t)、K(t)、K(t)をCMAC調節器によって調整する。

【0020】
<CMAC>
CMAC-PID制御器のブロック線図を図1に示す。CMAC-PID制御器10は、r(t)からy(t)を減算してe(t)を算出する偏差演算部12と、e(t)の微分値Δe(t)を算出する微分演算部14(上記の差分演算子に相当)と、r(t)、e(t)、Δe(t)からK(t)、K(t)、K(t)を算出するCMAC-PID調整部16と、e(t)に基づいて、算出されたK(t)、K(t)、K(t)で非線形システム100をPID制御するPID制御部18とを備えている。

【0021】
CMAC-PID調整部16は、図2に示すように、K(t)、K(t)、K(t)のそれぞれを学習する3つのCMAC162によって構成される。

【0022】
図3にCMACの具体的な構造を示す。まず、入力空間に(3,6)という入力が与えられると、その入力をラベル集合{B,F,J}、{c,g,k}に基づいて、荷重表から8,9,3を参照し、その合計20を出力する。この入力に対して、たとえば教師信号が14であった場合、出力と教師信号の差を荷重表の枚数で割った値すなわち(14-20)/3を参照した荷重表に加え、学習を行う。ここでは説明の簡単化のために2次元の入力空間について述べたが、CMAC162の入力空間はr(t)、e(t)、Δe(t)の3次元で構成し、(3)式に示すようにN枚の荷重表Wに離散化する。詳細については非特許文献1を参照されたい。

【0023】
【数3】
JP2014153949A_000005t.gif

【0024】
<CMAC-FRITによるオフライン学習>
CMACのオフライン学習には、モデルフリー型制御設計法の一つであるFRITを適用する。FRITでは、1回の実験データ(閉ループデータ)を用いて、制御パラメータを直接的に算出することができる。FRITを用いたCMACのオフライン学習のブロック線図を図4に示す。図4において、r(t)、e(t)、u(t)、y(t)は初期実験によって得られた操業データを示している。さらにチルダーr(t)は擬似参照入力を示し、次式で表される。

【0025】
【数4】
JP2014153949A_000006t.gif

【0026】
ここでC(z-1)はPIDコントローラの多項式を表している。CMAC-FRITでは、PIDゲインの計算に必要なCMACの荷重を以下の調整則によりオフライン学習を行う。

【0027】
【数5】
JP2014153949A_000007t.gif

【0028】
(5)式においてη、η、ηは学習係数を表している。また、J(t)は評価関数で次式で表される。

【0029】
【数6】
JP2014153949A_000008t.gif

【0030】
(6)式において、y(t)は(7)式で表される参照モデルG(z-1)からの出力である。

【0031】
【数7】
JP2014153949A_000009t.gif

【0032】
ここでP(z-1)は参照モデルの特性多項式であり、次式で表される。

【0033】
【数8】
JP2014153949A_000010t.gif

【0034】
【数9】
JP2014153949A_000011t.gif

【0035】
(9)式においてTはサンプリング時間、σ、δはそれぞれ制御系の立ち上がり特性、減衰特性に関係するパラメータを示しており,設計者が任意に設定する。特にσは制御系の出力がステップ状の目標値の約60%に達するまでの時間を示している。δは減衰特性であり、0~1.0程度で設計するのがよいとされている。CMAC-FRITの詳細については、非特許文献2を参照されたい。

【0036】
≪GMDHを用いた非線形PID制御器の構築≫
<非線形PIDコントローラ>
上述したように、本実施形態に係る非線形PIDコントローラは、CMAC-PIDで構築された各PIDゲインを、(10)式で与えられる非線形モデルとして記述することで生成される。つまり各時刻のPIDゲインをr(t)、e(t)、Δe(t)の非線形関数として記述する。その際、ネットワークモデルの一つであるGMDH(Group Method of Data Handling)を用いる。

【0037】
【数10】
JP2014153949A_000012t.gif

【0038】
<GMDH>
GMDHはシステムの入出力データを用いて、非線形モデルを構成する際に用いられるネットワークモデルの一つである。GMDHネットワークは、モデルを多項式として表現することが比較的容易であるという特徴をもっている。したがって、非線形コントローラである図1のCMAC-PID制御器10を近似的に表現することができる。

【0039】
本実施形態に係る非線形PIDコントローラであるGMDH-PID制御器のブロック線図を図5に示す。GMDH-PID制御器10Aは、r(t)からy(t)を減算してe(t)を算出する偏差演算部12と、e(t)の微分値Δe(t)を算出する微分演算部14(上記の差分演算子に相当)と、r(t)、e(t)、Δe(t)からGMDH理論に基づいてK(t)、K(t)、K(t)を算出するGMDH-PID調整部16Aと、e(t)に基づいて、算出されたK(t)、K(t)、K(t)で非線形システム100をPID制御するPID制御部18とを備えている。

【0040】
GMDHネットワークは、図6に示すようにアダライン演算子(N-Adaline)164の適切な組み合わせによって構成される階層型のネットワークである。アダライン演算子164は図7に示すように2入力1出力からなるユニットで、入力変数をx(t),x(t)、出力変数をz(t)とする。z(t)は次式のように表現される。

【0041】
【数11】
JP2014153949A_000013t.gif

【0042】
ただし、w(i=0,・・・,5)は重み係数を示す。また図中のSq.は2乗演算を示している。

【0043】
重みの算出には次式の最小二乗法を用いることができる。もちろん、これ以外の方法で重みを算出してもよい。

【0044】
【数12】
JP2014153949A_000014t.gif

【0045】
GMDHネットワークは図6に示す通り3種類の組み合わせが存在する。その中から次式で定義される寄与率が最も高いもの(たとえば、図6において破線で囲んだネットワーク)をGMHD-PID調整部16Aに搭載すべきGMDHネットワーク165として決定する。

【0046】
【数13】
JP2014153949A_000015t.gif

【0047】
上式においてはNは入出力データのデータ数、チルダーz(t)は出力の推定値、バーzは出力データの平均値を表している。

【0048】
<コントローラの設計>
上述のGMDHを用いて、以下の手順に従いPIDゲインの非線形モデルを設計する。
step1)学習済みのCMACの荷重表にr(t)、e(t)、Δe(t)を入力し、チルダーK(t)、チルダーK(t)、チルダーK(t)を算出する。
step2)(12)式によって、重みwを決定する。式(11)において、x(t),x(t)はr(t),e(t),Δe(t)のうちの二つであり、z(t)はチルダーK(t)、チルダーK(t)、チルダーK(t)である。重みwはPIDゲインそれぞれにおいて異なった重みである。
step3)PIDゲインそれぞれの推定値を用いて1階層目のGMDHと最小二乗法により、2階層目の重みwを決定する。
step4)それぞれの組み合わせにおける推定値を算出し、式(13)により寄与率を計算する。この寄与率が最も高いものをPIDゲインの非線形モデルとする。

【0049】
本手法によって、CMACを用いて算出していた各PIDゲインをGMDHネットワークにより表現することが可能となり、CMACに必要であったメモリを大幅に削減することができる。

【0050】
CMAC-PID制御器10では、K(t)、K(t)、K(t)を算出する3つのCMAC162が、それぞれ、3次元の入力空間(その大きさは、たとえば11である)および3枚の荷重表を有するため、メモリに記憶すべきパラメータは11979(=11×3×3)個もある。このため、CMAC-PID制御器10をマイコンなどで実現する場合、たとえば、1パラメータを64ビットデータとして、マイコンにはおよそ93Kバイトものメモリ容量が必要となる。一方、GMHD-PID制御器10Aでは、GMHD-PID調整部16Aが、r(t)、e(t)、Δe(t)から3つのGMDHネットワーク165のそれぞれでK(t)、K(t)、K(t)を算出する。したがって、メモリに記憶すべきパラメータは各GMDHネットワーク165における各アダライン演算子164の6つの重み係数、すなわち、54(=3×3×6)個のパラメータだけでよい。このため、GMDH-PID制御器10Aをマイコンなどで実現する場合、たとえば、1パラメータを64ビットデータとして、マイコンに必要なメモリ容量はわずか432バイトで済む。このように、本実施形態に係るGMDH-PID制御器10Aでは必要なメモリ容量を大幅に低減することができる。

【0051】
≪制御結果≫
本実施形態の有効性を検証するため、GMDH-PID制御器10Aを次式で与えられるBillinearモデルに適用する。

【0052】
【数14】
JP2014153949A_000016t.gif

【0053】
ここでξ(t)は平均0、分散1.0×10-3のガウス性白色雑音を示している。また、Billinearモデルの静特性を図8に示す。さらに、各ステップにおける目標値を(15)式のように設定した。

【0054】
【数15】
JP2014153949A_000017t.gif

【0055】
<CMACのオフライン学習>
はじめにCMACのオフライン学習に必要な入出力データを得るために、閉ループ系の安定性を十分に考慮した固定PIDゲインによる制御を行った。このとき、PIDゲインの決定についてはy=5付近のデータを用いて、CHR(Chien,Hrones,Reswick)法を用いて算出した。PIDゲインは次式の通りである。

【0056】
【数16】
JP2014153949A_000018t.gif

【0057】
このパラメータでの固定PID制御器による制御結果を図9に示す。結果から低い目標値に対しては、目標値追従性においても必ずしも良好とはいえない。

【0058】
次に、固定PID制御による実験データに基づいて、CMAC-FRITによりCMACをオフライン学習する。その際の参照モデルは(17)式のように設計した。

【0059】
【数17】
JP2014153949A_000019t.gif

【0060】
また、学習係数はη,η,ηともに10-3に設計した。図10、図11にCMAC-PIDでの制御結果、PIDゲインの推移を示す。CMACがオフラインで十分学習され、低い目標値においても良好な制御ができていることがわかる。

【0061】
<GMDHによるコントローラの設計>
オフライン学習されたCMACをGMDHにより、ネットワークとして構成し、(15)式で与えられる目標値に対してシミュレーションを行った。

【0062】
シミュレーションの結果とPIDゲインの推移を図12、図13に示す。結果からGMDH-PIDがCMAC-PIDとほぼ同じ制御性能を得られていることがわかる。

【0063】
<汎化能力の検証>
(18)式に示す未学習の目標値に対して制御を行うことで、汎化能力について考察する。固定PIDでの制御結果を図14に、CMAC-PIDでの制御結果を図15に、本実施形態に係るGMDH-PIDでの制御結果を図16に示す。また、CMAC-PIDでのPIDゲインの推移を図17に、本実施形態に係るGMDH-PIDでのPIDゲインの推移を図18に示す。

【0064】
【数18】
JP2014153949A_000020t.gif

【0065】
これらの制御結果により、本実施形態に係るGMDH-PIDがCMAC-PIDとほぼ同等の制御性能を有していると考えられる。このシミュレーションではCMACの荷重表に要したメモリ量が倍精度浮動小数点数で264Kバイトだったことに対し、本実施形態でのGMDHの重みでは432バイトとなり、99.8%メモリを削減した。また、制御対象によってはCMACのメモリが増大する場合もあるため、メモリ容量を削減するために本実施形態は有用であるといえる。
【符号の説明】
【0066】
10A GMDH-PID制御器(非線形PIDコントローラ)
12 偏差演算部
14 微分演算部
16A GMDH-PID調整部
162 CMAC
164 アダライン演算子
165 GMDHネットワーク
18 PID制御部
100 非線形システム
図面
【図1】
0
【図2】
1
【図4】
2
【図5】
3
【図6】
4
【図7】
5
【図8】
6
【図9】
7
【図10】
8
【図11】
9
【図12】
10
【図13】
11
【図14】
12
【図15】
13
【図16】
14
【図17】
15
【図18】
16
【図3】
17