新田 徹

It has been discovered by computational experiments that the `Complex-BP' algorithm can transform geometrical figures (e.g. rotation, similar transformation and parallel displacement), and reported that this ability can be successfully applied to computer vision. In this paper, the ability of the `Complex-BP' algorithm to learn similar transformation of geometrical figures is analyzed. A Complex-BP network which has learned similar transformation, has the ability to generalize the similitude ratio with a distance error which is represented by the sine of the difference between the argument of the test pattern and that of the training pattern.

The 3D vector version of the back-propagation algorithm (called '3DV-BP') is a natural extension of the complex-valued version of the back-propagation algorithm (called 'Complex-BP'). The Complex-BP can be applied to multi-layered neural networks whose weights, threshold values, input and output signals are all complex numbers, and the 3DV-BP can be applied to multi-layered neural networks whose threshold values, input and output signals are all 3D real valued vectors, and whose weights are all 3D orthogonal matrices. It has already been reported that an inherent property of the Complex-BP is its ability to learn '2D motion'. This paper shows in computational experiments that the 3DV-BP has the ability to learn '3D motion', which corresponds to the ability of the Complex-BP to learn '2D motion'.

This paper introduces a complex numbered version of the back-propagation algorithm, which can be applied to neural networks whose weights, threshold values, input and output signals are all complex numbers. This new algorithm can be used to learn complex numbered patterns in a natural way. We show that ″Complex-BP″ can transform geometrical figures.

A 3D vector version of the back-propagation algorithm is proposed for multi-layered neural networks in which vector product operation is performed, and whose weights, threshold values, input and output signals are all 3D real numbered vectors. This new algorithm can be used to learn patterns consisted of 3D vectors in a natural way. The XOR problem was used to successfully test the new formulation.

A SD vector version of the back-propagation algorithm is proposed for multi-layered neural networks in which vector product operation is performed, and whose weights, threshold values, input and output signals are all 3D real numbered vectors. This new algorithm can be used to learn patterns consisted of 3D vectors in a natural way. A 3D-example was used to successfully test the new formulation.

近年 階層型ニューラルネットワークの学習方式として提案されたバックプロパゲーション学習アルゴリズム(BP)が注目され 様々な分野に応用されている.複素パターンに対する学習アルゴリズムとして提案された複素BPは その学習パラメータがすべて複素数となっており 実数値を用いる通常のBPを複素数に拡張したものであると言える.複素BPには 従来のBPには見られない2次元運動学習能力が備わっていることは既に報告した.本稿では ネットワークアーキテクチャの観点から 複素BPの基本特性を解析的 実験的に調べ 従来のBPとの差異を明確にしたので報告する.得られた主要な結果は 次のとおりである(1)複素BPネットワークにおける重み係数は 従来のBPネットワークにおけるそれとは異なり 2次元運動に関係した制約を持っており 学習は基本的にその制約を保ちつつ行われる.(2)複素ニューロンの実部の決定表面と虚部の決定表面とは互いに直交しており 決定領域を均等に4つに分割する3層の複素BPネットワークにおける決定表面は基本的にこの構造を内包しており 中間ニューロンヘの総入力が十分大きいときに直交する.この意味で 複素BPは複素パターンに対する自然な学習アルゴリズムであると思われる・これらの特性は意図されたものではなく 複素数への拡張の結果として自ずと現れてきたものであることに注意されたい.

本稿では、確率的資源配分モデルを扱う。生産関数は、[7]における生産関数g(x)=xを拡張したものである。資源を消費と生産に対して逐次配分することにより、各段階において効用が得られる。問題となるのは、全段階に渡って得られる効用の総和の期待値、すなわち、期待全効用を最大にするような配分方法である。最適配分が存在した場合に、それが満たすべき必要十分条件がmartingaleで表現される。任意に配分を行った場合に得られる条件付期待全効用の上限はsupemartingaleを形成するが、その配分が最適であるためには、条件付期待全効用の上限がmartingaleであることで必要十分である。更に、得られた上記の十分条件を利用することにより、対数効用関数と非線形生産関数g(x)=x^p(p>0)を持つモデルにおける最適配分を求めた。その結果は[7]で得られている最適配分を包含した形のものとなっている。

This paper deals with stochastic models of an optimal sequential allocation of resources between consumption and production. We obtain the following results by means of the theory of martingales. For a model of resource allocation we establish the dynamic programming equation and show that a supermartingale characterizes the composition of the model and clear the composition of the optimality, representing the sufficient condition for an allocation to be optimal via a martingale. Further, we show the following three results as the application of the above result. (1) For the Kennedy's model we give another proof for the fact on an optimal allocation. (2) For a model with a convex utility function, we represent an optimal allocation via a supelmartingale. (3) For a model with a logarithmic utility function, we obtain an explicit optimal allocation.