Original size

1/18
第4章 計算の複雑さ入門
4.1. 計算の複雑さの理論概観
「計算可能か?」「どの程度の計算コストで計算可能か?」
計算の複雑さの理論 (Computational Complexity Theory)
(1) 計算量の上限に関する研究
計算量
す
究
(2) 計算量の下限に関する研究
(3) 計算の難しさについての構造的研究
((1)) 計算量の上限に関する研究
計算量の 限 関する研究
効率のよいアルゴリズムの設計(アルゴリズム理論)
ある問題 X に対して,それを解くアルゴリズム A があり,
サイズ n のどんな問題例に対しても
どんな問題例 対
も A の時間計算量が
時間計算量が
T(n) 以内であるとき,アルゴリズム A の時間計算量の
上限は T(n)
(最悪時の漸近的時間計算量)
1/18
Chap 4 Computational Complexity
Chap.4
4.1. Survey on Theory of Computational Complexity
“Computable?”“How much cost is required for computation?
C
Computational
t ti l Complexity
C
l it Theory
Th
(1) Studies on upper bound of computational cost
(2) Studies on lower bound of computational cost
(3) Structural studies on hardness of computation
(1) Studies on upper bound of computational cost
Algorithm Theory: design of efficient algorithms
S
Suppose
we hhave an algorithm
l ith A which
hi h solves
l
a problem
bl X
in at most time T(n) for any input of size n. Then, an upper
bound on the time complexity of the algorithm A is T(n).
T(n)
(asymptotic worst case time complexity)
2/18
(2) 計算量の下限に関する研究
問題 X に対するどんなアルゴリズムも最悪の場合には T(n)
時間だけ必ずかかってしまうとき,問題 X の時間計算量の
下限は T(n).
T( )
・  予想
・暗号システムの強さ
暗号システムの強さ
(3) 計算の難しさについての構造的研究
“xx程度の難しさ”がもつ特徴について調べること.
難しさの程度による階層構造.
2/18
(2)Studies on lower bound of computational cost
If any algorithm for a problem X takes time T(n) in the worst
case, a lower bound on the time complexity of the problem X
i T(n).
is
T( )
・   conjecture
Robustness of crypto system
・Robustness
(3) Structural studies on hardness of computation
Studies to characterize hardness in the level of “xx-hardness”
hierarchical structure depending on the hardness
4.2. 計算時間の計り方
4/18
4.2.1. 標準形プログラム再考
prog プログラム名(input ...);
var pc: 
begin
g
pc:=1;
while pc  0 do
case pc of
各(文)の形は
1: (文);
2: (文);
- if 比較文 then pc:
pc:=kk1 else pc:
pc:=kk2 end
end-if
if
...........
- 代入文; pc:=k;
k: (文);
end-case
のいずれか
のいずれか.
end-while;
d hil
halt(型の変数);
end.
4.2 Measuring Computation Time
4/18
4.2.1 Revisiting Programs in the Standard form
pprog
g pprogram
g
name ((input
p ...);
);
var pc: 
begin
pc:=1;
while pc  0 do
case pc of
Each statement must be either
1: (statement);
if comparison then pc:=k1 else pc:=k2 end-if
2: (statement);;
or
...........
substitution; pc:=k;
k: (statement);
end-case
d
end-while;
halt(variable of type );
end.
5/18
・各文が高々定数時間で実行できるための制約
u uu’:: 型の変数,
u,
型の変数
v vv’:: 型の変数
v,
c: 型の定数,
s: 型の定数
(代入文) ((1)) u := c;;
(2)
( ) u := u’;;
(3) u := head(v); (4) u := tail(v);
(5) v := s;
(6) v := v’; ??
(7) v := right(v); (8) v := left(v);
(9) v := u # v;
(10) v := v # u;
(比較文) (11) u = c
(12) v = s
・ v = v’の形の比較は禁止されている.
5/18
・Constraints
C t i t to
t execute
t eachh statement
t t
t in
i constant
t t time
ti
u, u’: variable of type ,
v, v’: variable of type 
c: constant of type ,

s: constant of type 
(Substitution)
(1) u := c;
(2) u := u’;
(3) u : = head(v); (4) u := tail(v);
(5) v := s;
(6) v := v’; ??
(7) v := right(v);
i ht( )
(8) v := left(v);
l ft( )
(9) v := u # v;
(10) v := v # u;
(Comparison)
(11) u = c
(12) v = s
・ comparison of the form v = v’ is forbidden
3/18
4.2. 計算時間の計り方
4.2.1. 標準形プログラム再考
プ グ
考
定義4.1.
定義4
1 (計算時間の定義)
A: k入力標準形プログラム
x1, x2, ..., xk: Aへの入力
の入力
• 全体は while ループ
• 各行は
 1つの if 文+pcへの代入
 基本命令1つ+pcへの代入
Aのwhileループ1回り分の実行をAでの1ステップという.
入力x
力 1, x2, ..., xkに対してAが停止するまでに回るwhileループの
対
が停 するま
る
プ
回数をAのx1, x2, ..., xkに対する計算時間(略してA(x1, x2, ..., xk)
の計算時間)という ただし 停止しないとき 計算時間は無限大
の計算時間)という.ただし,停止しないとき,計算時間は無限大.
time_A(x
( 1, x2, ...,, xk)
 A(x
( 1, x2, ...,, xk))の計算時間
計算時間
time _ A(l )  max{time _ A( x1 , x2 ,..., xk ) :
 | x | l}
1i  k
i
3/18
4.2 Measuring Computation Time
4.2.1 Revisiting Programs in
the Standard form
It consists of one while loop of
one if + substitute to pc
one basic states + sub.
sub to pc
in each line
Definition 4.1
(Computation
(Co
pu o time)
e)
A: program with k inputs in the standard form
x1, x2, ..., xk: inputs to A
Single execution of while loop in A is “one step” in A.
The number of iterations of the while loop required before
A halts is called the computation time of A for inputs x1, x2,
..., xk (in short, computation time of A(x1, x2, ..., xk)).
If A does not halt,, its computation
p
time is infinite.
time_A(x1, x2, ..., xk)
 computation time of A(x1, x2, ..., xk)
time _ A(l )  max{time _ A( x1 , x2 ,..., xk ) :
 | x | l}
1i  k
i
6/18
4.2.2. プログラムの時間計算量
プログラムの時間計算量を入力サイズの関数として表現
(入力文字列の長さ)
妥当なコード化:
元の対象のサイズに定数倍の範囲内で忠実なコード化
ズ
倍
例4.5:
例4
5: 1進表記と2進表記
「数のサイズはその桁数」との立場では
2進表記は妥当なコード化であるが,
進表記は妥当な
ド化であるが,
1進表記は冗長なコード化
6/18
4.2.2. Time complexity of a program
The time complexity of a program is represented as a function of
input size (length of an input string)
g
Valid Encoding:
Encoding into at most constant times larger than the original.
Ex.4.5: Unary and binary representations
Binary representation is a valid encoding in the standpoint
of “size
size of a number is its number of bits
bits”,but
but unary one
is redundant.
7/18
定義4.3:
定義4
3: 自然数上の関数 f と g において以下が成立するなら、
において以下が成立するなら
ヨc,d >0, ∀n [f(n)≦ c g(n) + d]
f はgg のオーダーであるといい、f
オ ダ
ある
、f = O(g)
(g) と書く。
書く。
注意:定数 c と d が n とは独立に決められているところに注意
定理4.1: 自然数上の任意の関数 f, g, h について以下が成立:
1. ∀n[f(n) ≦ g(n)]  f = O(g)

2. ヨc > 0,  n[f(n) ≦ cg(n)]  f = O(g)
3. [ f = O(g) and g = O(h)]  f = O(h)
7/18
Definition 4.3:
4 3: For functions f and g on natural numbers
numbers, if
ヨc,d >0, ∀n [f(n)≦ c g(n) + d]
(g)
then we sayy f is in the order of g and denote it byy f = O(g).
Remark: the constants c and d must be determined
i d
independently
d l off n.
Theorem 4.1: The followings hold for any functions f, g and h on
natural numbers:
1. ∀n[f(n) ≦ g(n)]  f = O(g)

2. ヨc > 0,  n[f(n) ≦ cg(n)]  f = O(g)
3 [ f = O(g) and g = O(h)]  f = O(h)
3.
8/18
4.2.3. 問題の時間計算量
定義4.4. を計算問題とし,t を自然数上の関数とする.
いま を計算するプログラム A と定数 c, d >0が存在して,
∀l [time_A(l) ≦ ct(l) + d]
ならば, はO(t)時間計算可能,あるいはの時間計算量は
O(t)であるという.
O(t)であるという
注意
注意:ここでは計算問題として,集合の認識問題を想定している.
計算問題
,集合 認識問題を想定
る
直観的には「問題は t 時間以下で計算可能」という意味。
(注1) A の時間計算量は t より低いかもしれない.
(注2) A よりも速くを計算するプログラムがあるかもしれない.
よりも速くを計算するプログラムがあるかもしれない
8/18
4.2.3. Time complexity of a problem
Def.4.4. Let  be a computing problem and t be a function over
natural numbers. If we have a program A to compute  and some
constants c and d > 0 such that
∀l [time_A(l) ≦ ct(l) + d]
then we say that  is computable in O(t) time,
time or time complexity
of  is O(t).
Notice: We assume here that a computing problem is that of
recognizing a set.
Intuitively
problem  is computable within time t
・ time complexity of A may be less than t.
・ there mayy be a faster pprogram
g
to compute
p  than A does.
9/18
例4.7. 素数判定問題の時間計算量
素数判定問題(PRIME)
入力:自然数 n(ただし,2進表記)
質
質問:n
は素数か?
素数
PRIME  { n  : nは素数}
スタ リングの公式
スターリングの公式:
n
n! 2πn  
e
prog Naive(input n);
2 ~ n-1の数で割ってみる
begin
for each i := 1 < i < n do
if n mod i = 0 then reject end-if
end-for;
log nn・log
log i 時間
acceptt
end.
n
余談:
2002年に
O(l 6 )
のアルゴリズム
ア
リ
が考案された!!
time _ Naive(n)  1i  n (clogn log i  d )
 clog n log n! dn  O(n(log n) 2 )
n の長さを l とすると,l
とすると l はほぼlog
はほぼl nだから,time_Naive=O(l
だから ti
N i
O(l22l)
故に,素数判定問題の時間計算量は(高々) O(l22l)
9/18
Ex.4.7. Time complexity of the problem determining primes
Prime-determining problem(PRIME)
Input:a natural number n (binary representation)
Question: Is n prime?
PRIME  { n  : n is prime}
Stirling’s Formula:
n
n! 2πn  
e
n
prog Naive(input n);
try to divide by numbers between 2 – n-1
begin
for each i:= 1 < i < n do
O(l 6 ) time
ti algorithm
l ith has
h been
b
if n mod i = 0 then reject end-if
developed in 2002!!
end-for;
log nn・log
log i time
acceptt
end.
time _ Naive(n)  1i  n (clogn log i  d )
 clog n log n! dn  O(n(log n) 2 )
When the length of n is l, l is approximately log n. So, time_Naive
=O(l22l). Thus, time complexity of PRIME is O(l22l).
10/18
定義4.5.
自然数上の関数 t に対し,時間計算量が O(t) となる集合
(i 認識問題)の全体を O(t)
(i.e.,認識問題)の全体を
O( ) 時間計算量クラスといい,
時間計算量クラスといい
そのクラスをTIME(t)と表す.
また t のような関数を制限時間と呼ぶ.
また,t
のような関数を制限時間と呼ぶ
たとえば, O(l22l) 時間で認識可能な集合を集めたクラスが
TIME(l
( 22l))であり,集合 PRIME はその一要素.
PRIME  TIME(l22l)
指数関数
l22l
×
2l
6
今では PRIME ∈ TIME (l )
×
多項式
l6
l2
l
10/18
Def.4.5.
Def
45
For a function t over natural numbers,the set of all sets
((i.e. recognition
g
pproblems)) with time complexities
p
O(t)
( ) is
called O(t)-time complexity class, and it is denoted by TIME(t).
And such a function t is called a time limit.
For example, a class of sets recognizable in time O(l22l) is
TIME(l22l), and the set PRIME is one element.
PRIME  TIME(l22l)
Exponential
i l
l22l
×
2l
6
Now, PRIME ∈ TIME (l )
×
Polynomial
oy o a
l6
l2
l
11/18
第5章 代表的な計算量クラス
5.1. 代表的な時間計算量クラス
 p:多項式 TIME(p(l))
  c>1 TIME(2 )
  
TIME(2 )
p:多項式


cl
p(l)
(l)
集合: 計算量クラスに入る集合.
計算量クラスに入る集合
問題: 集合の認識問題
ある問題がに入っていないなら、
現実的には手に負えない…
現実的には手に負えない
11/18
Chapter 5
Representative Complexity Classes
5.1. Representative time complexity classes
TIME( (l))
 p:p TIME(p(l))
  c>1
1 TIME(2 )
  
TIME(2
( )
p:p


olynomial
cl
p(l)
olynomial
l
i l
 set: set in the complexity class .
 problem:
bl
problem
bl off recognizing
i i a  set.
Problems
P
bl
not in
i  are intractable
i
bl
from the practical viewpoint…
12/18
例5.1: クラス, , では,多項式時間程度の違いは問題
ではない.
: 多項式 × 多項式多項式
: 2の線形乗 × 多項式  2の線形乗
: 2の多項式乗 × 多項式  2の多項式乗
例5.2:
例5
2 PRIMEの計算量クラス
例4.7  PRIME  TIME(2l)
故に, PRIME  
6
余談: 2002年に O(l )
のアルゴリズムが考案さ
れたので 今では
れたので、今では
定義5.1. T: 制限時間の集合
t
 TTIME(t): T時間計算量クラス
→これをTIME(T)と表す.
これをTIME(T)と表す
TIME(lc),
)
定理5 1: (1)  = ∪c>0
定理5.1:
>0
(2)  = ∪c>0
>0
TIME(2l
c
)
12/18
Ex.5.1: Polynomial makes no serious difference in the classes
, , .
: polynomial × polynomialpolynomial
: linear power of 2 × polynomial  linear power of 2
: poly. power of 2 × poly.  poly. power of 2
Ex.5.2:
E
5 2 Complexity
C
l it class
l off PRIME
Ex.4.7  PRIME  TIME(2l)
Thus, PRIME  
Def.5.1: T: set of time limits
t
O(l 6 ) time
ti algorithm
l ith puts
t
it into !!
TIME(t): T time complexity class
→It is denoted by TIME(T)
TIME(T).
T
TIME(lc),
Theorem5.1 (1)  = Uc>0
(2)  = Uc>0
c
l
TIME(2 )
13/18
定理5 1 (1)  = ∪c>0TIME(lc),
定理5.1:
)
c
(2)  = ∪ TIME(2l )
c>0
証明: (2)の証明は省略.
(2)の証明は省略
T1: lcという形の多項式の集合.
T2: 多項式の全体
 T1 ⊆ T2 なので,TIME(T1) ⊆ TIME(T2)
p: 任意の多項式 (pはT2の任意の要素)
多項式 の最大次数をkとすると (l) = O(lk)
多項式pの最大次数をkとすると,p(l)
定理4.3より,
TIME(p(l)) ⊆ TIME(lk) ⊆ TIME(T1)
したがって,TIME(T1) = TIME(T2)
証明終
定理4.3:
すべての制限時間 t1,tt2 に対し、
に対し
t1=O(t2) ならば TIME(t1)⊆TIME(t2)
13/18
Th
Theorem
55.1:
1 (1)  = ∪c>0
TIME(lc),
)
TIME(2l
(2)  = ∪ c>0
Proof: The proof of (2) is omitted.
T1: set of polynomials of the form of lc.
T2: set of all polynomials
 since T1 ⊆ T2 ,TIME(T1) ⊆ TIME(T2)
pp: arbitraryy polynomial
p y
(p is anyy element of T2)
if the maximum degree of a polynomial p is k,p(l) = O(lk)
From Theorem 4.3,
TIME(p(l)) ⊆ TIME(lk) ⊆ TIME(T
T1)
Therefore,TIME(T1) = TIME(T2)
QED
Q.E.D.
Theorem 4.3:
For any times t1,tt2,
t1=O(t2) implies TIME(t1)⊆TIME(t2)
)
c
14/18
例5.3.
例5
3 命題論理式評価問題(PROP-EVAL)
命題論理式評価問題(PROP EVAL)
入力:<F, < a1, a2, … , an >>
 
Fは拡張命題論理式
拡張命題論
(a1, a2, … , an )は F に対する真理値割り当て
質問: F(a1, a2, … , an ) = 1?
(x,y)
(0,0)
(0,1)
(1,0)
(1 1)
(1,1)
x→y
(¬x∨y)
1
1
0
1
x y
((x→y)∧(y→x))
1
0
0
1
14/18
Ex.5.3.
E
5 3 Problem
P bl off evaluating
l ti propositional
iti l expression(PROP-EVAL)
i (PROP EVAL)
Input:<F, < a1, a2, … , an >>
F is an extended prop
prop. expression
(a1, a2, … , an ) is a truth assignment to F
Question: F(a1, a2, … , an ) =1?
(x,y)
(0,0)
(0,1)
(1,0)
(1 1)
(1,1)
x→y
(¬x∨y)
1
1
0
1
x y
((x→y)∧(y→x))
1
0
0
1
15/18
例5.3. 命題論理式評価問題(PROP-EVAL)
入力:<F < a1, a2, … , an >>
入力:<F,
Fは拡張命題論理式     
((a1, a2, … , an )は
)はFに対する真理値割り当て
に対する真理値割り当て
質問: F(a1, a2, … , an ) = 1?
拡張命題論理式
拡
命題論 式 F がコード化されたもの
が
ド化されたも F  から計算木を作る.
から計算木を作る
計算木はO(| F  |3)時間で構成できる.
計算木が得られていれば ボトムアップ式で
計算木が得られていれば,ボトムアップ式で
F(a1, a2, … , an ) の値は容易に計算可能. 0 1
計算木

例: F(x1, x2 , x3) = [x1  x2]  [x1  x3]
1
0 0

F(0 1 0)=11
F(0,1,0)
00

F(1,1,0)=0
よって PROP-EVAL ∈ 

0
1
0
x1
1
1
x2
0
x3
0
15/18
Ex.5.3. Problem of evaluating propositional expression(PROP-EVAL)
Input:<F < a1, a2, … , an >>
Input:<F,
F is an extended prop. expression
((a1, a2, … , an ) iss a truth
u assignment
ss g e to
oF
Question: F(a1, a2, … , an ) = 1?
Construct a computation tree from a code F  of ext. prop. expression
It is built in time O(| F  |3).
If computation tree is available,
available we can easily obtain the value
F(a1, a2, … , an ) in a bottom-up fashion. 0 1
computation

tree
1
Ex.: F(x1, x2 , x3) = [x1   x2]  [x1 x3] 0 0
0


0
F(0 1 0)=11
F(0,1,0)
0
F(1,1,0)=0
1
Hence PROP-EVAL ∈ 
0
x1
1
1
x2
0
0
x3
16/18
例5.3. 命題論理式充足性問題:2和積形(2SAT)
入力:<F> Fは2和積形命題論理式
質問: F(a1, a2, … , an ) = 1を満たす割り当てがあるか?
和積
和積形:
F = (●∨●∨…∨●)∧(●∨…∨●)∧…∧(…)
- リテラルの論理和の論理積で表現されたもの
ちょうど/たかだか
k和積形(k
和積形( SAT))
- 和積形の各論理和が k 個のリテラルを含む
- 3SAT,
3SAT 4SAT も同様に定義できる。
も同様に定義できる
- SAT: 各論理和のリテラルの個数に制限がないもの
- ExSAT:
E SAT 入力が拡張命題論理式(→や
入力が拡張命題論理式( や も許す)
Ex. 5.3. 2-Satisfiability (2SAT)
16/18
Input:<F> F is 2-conjunctive normal form
Question: Is there any assignment such that F(a1, a2, … , an ) = 1?
Conjunctive Normal Form (CNF)
F = (●∨●∨…∨●)∧(●∨…∨●)∧…∧(…)
- described by ∧ of ∨ of literals.
literals
exactly/at most
k SAT
- Each closure contains k literals
- We can define 3SAT
3SAT, 4SAT similarly.
similarl
- SAT consists of any CNF.
- ExSAT
E SAT consists
i t off any extended
t d d propositional
iti l expression.
i
例5.4: 到達可能性問題(ST-CON)
入力:<G s t> : 無向グラフG,
入力:<G,s,t>
無向グラフG 1≦s,t≦n(=|G|)
1≦s t≦n(=|G|)
質問: G上で s から t への道があるか?
閉路とは、始点と終点が同じである路
オイラ 閉路
、す
辺を 度
通る閉路
オイラー閉路とは、すべての辺を一度づつ通る閉路
ハミルトン閉路とは、すべての頂点を一度づつ通る閉路
例5.4: 一筆書き閉路問題(DEULER)
入力:<G>: 有向グラフG
質問 Gはオイラー閉路をもつか?
質問:
はオイ
閉路をも か
例5.5:
例5
5: ハミルトン閉路問題(DHAM)
入力:<G>: 有向グラフG
質問: Gはハミルトン閉路をもつか?
17/18
Ex. 5.4: Graph reachability problem (ST-CON)
Input:<G s t> : an undirectd graph G,
Input:<G,s,t>
G 1≦s,t≦n(=|G|)
1≦s t≦n(=|G|)
Question: Does G have a path from s to t?
Cycle is a path that shares two endpoints.
Euler cycle
y is a cycle
y that visits all edges
g once.
Hamiltonian cycle is a cycle that visits all vertices once.
Ex. 5.4: Euler cycle problem (DEULER)
Input:<G>: a directed graph G
Question: Does G have an Euler cycle?
Ex. 5.5
E
5 5 Hamiltonian cycle
c cle problem (DHAM)
Input:<G>: a directed graph G
Question: Does G have a Hamiltonian cycle?
17/18
18/18
以下の事実が知られている:
以下の問題は に属する:
 PROP-EVAL,
O V , 2SAT,
S ,S
ST-CON,
CO , DEULER
U
以下の問題は に属する、が、、、
 3SAT, DHAM
 と の間(?)のクラス
( )
18/18
It is known that:
The following problems are in :
 PROP-EVAL,
O V , 2SAT,
S ,S
ST-CON,
CO , DEULER
U
The following problems are in , but…
 3SAT, DHAM
The class  between  and ?