ifish-tr

8/14/2019 ifish-tr

1/83

I n t e r n e t F i s h

b y

B r i a n A . L a M a c c h i a

A r t i c i a l I n t e l l i g e n c e L a b o r a t o r y

a n d

D e p a r t m e n t o f E l e c t r i c a l E n g i n e e r i n g a n d C o m p u t e r S c i e n c e

M a s s a c h u s e t t s I n s t i t u t e o f T e c h n o l o g y

A b s t r a c t

I h a v e i n v e n t e d \ I n t e r n e t F i s h , " a n o v e l c l a s s o f r e s o u r c e - d i s c o v e r y t o o l s d e s i g n e d t o h e l p u s e r s

e x t r a c t u s e f u l i n f o r m a t i o n f r o m t h e I n t e r n e t . I n t e r n e t F i s h ( I F i s h ) a r e s e m i - a u t o n o m o u s , p e r s i s t e n t

i n f o r m a t i o n b r o k e r s ; u s e r s d e p l o y i n d i v i d u a l I F i s h t o g a t h e r a n d r e n e i n f o r m a t i o n r e l a t e d t o a

p a r t i c u l a r t o p i c . A n I F i s h w i l l i n i t i a t e r e s e a r c h , c o n t i n u e t o d i s c o v e r n e w s o u r c e s o f i n f o r m a t i o n ,

a n d k e e p t a b s o n n e w d e v e l o p m e n t s i n t h a t t o p i c . A s p a r t o f t h e i n f o r m a t i o n - g a t h e r i n g p r o c e s s t h e

u s e r i n t e r a c t s w i t h h i s I F i s h t o n d o u t w h a t i t h a s l e a r n e d , a n s w e r q u e s t i o n s i t h a s p o s e d , a n d

m a k e s u g g e s t i o n s f o r g u i d a n c e .

I n t e r n e t F i s h d i e r f r o m o t h e r I n t e r n e t r e s o u r c e d i s c o v e r y s y s t e m s i n t h a t t h e y a r e p e r s i s t e n t ,

p e r s o n a l a n d d y n a m i c . A s p a r t o f t h e i n f o r m a t i o n - g a t h e r i n g p r o c e s s I F i s h c o n d u c t e x t e n d e d , l o n g -

t e r m c o n v e r s a t i o n s w i t h u s e r s a s t h e y e x p l o r e . T h e y i n c o r p o r a t e d e e p s t r u c t u r a l k n o w l e d g e o f t h e

o r g a n i z a t i o n a n d s e r v i c e s o f t h e n e t , a n d a r e a l s o c a p a b l e o f o n - t h e - y r e c o n g u r a t i o n , m o d i c a t i o n

a n d e x p a n s i o n . H u m a n u s e r s m a y d y n a m i c a l l y c h a n g e t h e I F i s h i n r e s p o n s e t o c h a n g e s i n t h e

e n v i r o n m e n t , o r I F i s h m a y i n i t i a t e s u c h c h a n g e s i t s e l f . I F i s h m a i n t a i n i n t e r n a l s t a t e , i n c l u d i n g

m o d e l s o f i t s o w n s t r u c t u r e , b e h a v i o r , i n f o r m a t i o n e n v i r o n m e n t a n d i t s u s e r ; t h e s e m o d e l s p e r m i t

a n I F i s h t o p e r f o r m m e t a - l e v e l r e a s o n i n g a b o u t i t s o w n s t r u c t u r e .

T o f a c i l i t a t e r a p i d a s s e m b l y o f p a r t i c u l a r I F i s h I h a v e c r e a t e d t h e I n t e r n e t F i s h C o n s t r u c t i o n

K i t . T h i s s y s t e m p r o v i d e s e n a b l i n g t e c h n o l o g y f o r t h e e n t i r e c l a s s o f I n t e r n e t F i s h t o o l s ; i t f a c i l -

i t a t e s b o t h c r e a t i o n o f n e w I F i s h a s w e l l a s a d d i t i o n s o f n e w c a p a b i l i t i e s t o e x i s t i n g o n e s . T h e

C o n s t r u c t i o n K i t i n c l u d e s a c o l l e c t i o n o f e n c a p s u l a t e d h e u r i s t i c k n o w l e d g e m o d u l e s t h a t m a y b e

c o m b i n e d i n m i x - a n d - m a t c h f a s h i o n t o c r e a t e a p a r t i c u l a r I F i s h ; i n t e r f a c e s t o n e w s e r v i c e s w r i t t e n

w i t h t h e C o n s t r u c t i o n K i t m a y b e i m m e d i a t e l y a d d e d t o \ l i v e " I F i s h .

U s i n g t h e C o n s t r u c t i o n K i t I h a v e c r e a t e d a d e m o n s t r a t i o n I F i s h s p e c i a l i z e d f o r n d i n g W o r l d -

W i d e W e b d o c u m e n t s r e l a t e d t o a g i v e n g r o u p o f d o c u m e n t s . T h i s \ F i n d e r " I F i s h i n c l u d e s h e u r i s -

t i c s t h a t d e s c r i b e h o w t o i n t e r a c t w i t h t h e W e b i n g e n e r a l , e x p l a i n h o w t o t a k e a d v a n t a g e o f

v a r i o u s p u b l i c i n d e x e s a n d c l a s s i c a t i o n s c h e m e s , a n d p r o v i d e a m e t h o d f o r d i s c o v e r i n g s i m i l a r i t y

r e l a t i o n s h i p s a m o n g d o c u m e n t s .

T h e s i s S u p e r v i s o r : G e r a l d J . S u s s m a n

M a t s u s h i t a P r o f e s s o r o f E l e c t r i c a l E n g i n e e r i n g

T h i s r e p o r t i s a r e v i s e d v e r s i o n o f a t h e s i s s u b m i t t e d i n p a r t i a l f u l l l m e n t o f t h e r e q u i r e m e n t s f o r

t h e d e g r e e o f D o c t o r o f P h i l o s o p h y i n t h e D e p a r t m e n t o f E l e c t r i c a l E n g i n e e r i n g a n d C o m p u t e r

S c i e n c e a t t h e M a s s a c h u s e t t s I n s t i t u t e o f T e c h n o l o g y i n M a y , 1 9 9 6 .

8/14/2019 ifish-tr

2/83

N o t i c e o f C o p y r i g h t a n d T e r m s o f L i m i t e d L i c e n s e

T h i s t e c h n i c a l r e p o r t , i n c l u d i n g a l l g u r e s , t a b l e s a n d c o d e f r a g m e n t s , i s C o p y r i g h t

c

1 9 9 6 B r i a n

A . L a M a c c h i a . C o u n t r y o f r s t p u b l i c a t i o n : U n i t e d S t a t e s o f A m e r i c a . A l l r i g h t s g r a n t e d t o t h e

a u t h o r i n a c c o r d a n c e w i t h 1 7 U S C x x 1 0 1 e t . s e q . a r e h e r e b y r e s e r v e d .

P u r s u a n t t o 1 7 U S C x 2 0 1 ( d ) ( 2 ) , t h e a u t h o r h e r e b y g r a n t s t o t h e A r t i c i a l I n t e l l i g e n c e L a b o r a t o r y

o f t h e M a s s a c h u s e t t s I n s t i t u t e o f T e c h n o l o g y ( h e r e i n a f t e r \ t h e A I L a b " ) c e r t a i n n o n e x c l u s i v e , n o n -

t r a n s f e r r a b l e , l i m i t e d r i g h t s r e l a t e d t o t h e c o p y r i g h t o f t h i s d o c u m e n t :

1 . T h e A I L a b m a y r e p r o d u c e p a p e r c o p i e s o f t h i s t e c h n i c a l r e p o r t f o r u s e w i t h i n t h e M I T

c o m m u n i t y f o r e d u c a t i o n a l o r r e s e a r c h p u r p o s e s ( a n a c t i o n w h i c h i s a n e x c l u s i v e r i g h t o f t h e

c o p y r i g h t h o l d e r u n d e r 1 7 U S C x 1 0 6 ( 1 ) ) .

2 . T h e A I L a b m a y r e p r o d u c e p a p e r c o p i e s o f t h i s t e c h n i c a l r e p o r t a n d d i s t r i b u t e s u c h c o p i e s t o

t h e p u b l i c ( a n a c t i o n t h a t i s a n e x c l u s i v e r i g h t o f t h e c o p y r i g h t h o l d e r u n d e r 1 7 U S C x 1 0 6 ( 1 )

a n d 1 7 U S C x 1 0 6 ( 3 ) ) s o l o n g a s n o f e e i s c h a r g e d f o r s u c h c o p i e s i n e x c e s s o f t h e a c t u a l c o s t

o f m a k i n g t h e c o p y .

3 . A l l c o p i e s o f t h i s t e c h n i c a l r e p o r t m a d e b y t h e A I L a b u n d e r t h i s l i c e n s e m u s t i n c l u d e a c o p y

o f t h i s c o p y r i g h t n o t i c e a n d l i c e n s e .

4 . A l l o t h e r u s e s o f t h i s t e c h n i c a l r e p o r t w i t h i n t h e s c o p e o f t h e e x c l u s i v e r i g h t s o f t h e c o p y r i g h t

h o l d e r a s s p e c i e d i n 1 7 U S C x 1 0 6 a r e r e s e r v e d b y t h e a u t h o r , a n d a n y a c t i o n b y t h e A I L a b

t h a t i n f r i n g e s a n y o f t h o s e e x c l u s i v e r i g h t s , e x c e p t a s e x p l i c i t l y g r a n t e d a b o v e , r e q u i r e s t h e

e x p r e s s e d w r i t t e n c o n s e n t o f t h e a u t h o r .

8/14/2019 ifish-tr

3/83

A c k n o w l e d g m e n t s

T h i s t h e s i s c o u l d n o t h a v e b e e n c o m p l e t e d w i t h o u t t h e s u p p o r t o f a g r e a t m a n y p e o p l e . I w i s h t o

t a k e t h i s o p p o r t u n i t y t o e x p r e s s m y a p p r e c i a t i o n f o r t h e i r h e l p i n b r i n g i n g t h i s t h e s i s t o a s u c c e s s f u l

c o n c l u s i o n .

F i r s t , m y s i n c e r e s t t h a n k s t o t h o s e w h o s e w o r k b e c a m e p a r t o f t h e I n t e r n e t F i s h . S t e v e n A d a m s

w r o t e t h e S c h e m e c o d e t o s u p p o r t s - e x p r e s s i o n H T M L . M i c h a e l ( \ Z i g g y " ) B l a i r p r o v i d e d t h e

d e m o n s t r a t i o n p r o b l e m f o r t h e F i n d e r I F i s h . T h e A r c h i t e x t i n d e x a n d s e a r c h e n g i n e ( n o w c a l l e d

\ E x c i t e f o r W e b s e r v e r s " ) w a s p r o v i d e d c o u r t e s y o f E x c i t e , I n c . T h e H T T P p r o x y s e r v e r c o d e

w a s w r i t t e n b y C E R N .

I a m d e e p l y g r a t e f u l t o a l l m y f r i e n d s a t S i l v e r g l a t e a n d G o o d f o r t h e i r o v e r w h e l m i n g g e n e r o s i t y ,

w h i c h p e r m i t t e d m e t o w o r k f r o m h o m e t h i s p a s t y e a r a n d w r i t e t h i s t h e s i s . T h a n k s e s p e c i a l l y t o

H a r v e y S i l v e r g l a t e , A n d y G o o d , S a n d i e F e n n e l l , D a n a G u r w i t c h , a n d G i a B a r r e s i .

F o r t h e p a s t y e a r I h a v e b e e n f o r t u n a t e i n h a v i n g a r e t r e a t u p M a s s a c h u s e t t s A v e . t o w h i c h I c o u l d

e s c a p e w h e n I n e e d e d t o d o s o m e t h i n g o t h e r t h a n t h e s i s . I t h a n k P r o f e s s o r s A r t h u r M i l l e r

a n d C h a r l e s N e s s o n o f H a r v a r d L a w S c h o o l f o r g r a c i o u s l y a l l o w i n g m e t o a u d i t C o p y r i g h t

d u r i n g t h e F a l l t e r m o f 1 9 9 5 a n d L a w , I n t e r n e t a n d S o c i e t y d u r i n g t h e S p r i n g t e r m o f 1 9 9 6 .

M y t h a n k s a l s o t o t h e s t u d e n t s i n b o t h c l a s s e s w h o h e l p e d m a k e t h o s e c l a s s e s t h e m o s t f u n I ' v e

h a d i n a c l a s s r o o m s i n c e I e n t e r e d g r a d u a t e s c h o o l a t M I T .

M y l e g a l e d u c a t i o n b e g a n a t S i l v e r g l a t e a n d G o o d a n d Z a l k i n d , R o d r i g u e z , L u n t a n d

D u n c a n ; i n a d d i t i o n t o t h o s e a l r e a d y m e n t i o n e d a b o v e I ' d l i k e t o t h a n k S h a r o n B e c k m a n ,

P h i l C o r m i e r , J a s o n G u l l a n d D a o d i l T y m i n s k i o f S & G a n d D a v i d D u n c a n o f Z R L & D f o r

t h e i r h e l p l e a d i n g m e t h r o u g h t h e n e r p o i n t s o f t h e l a w .

W h e n I w a s n ' t w o r k i n g o n I F i s h o r r e a d i n g c a s e l a w , I w a s h e l p i n g o t h e r s o v e r c o m e t h e w o n d e r s

o f m o d e r n h a r d w a r e s o f t w a r e . T h a n k s m u c h t o a l l t h e c l i e n t s o f L a M a c c h i a C o m p u t e r C o n s u l t -

i n g : T r i c i a P r e v e t t a t K H J I n t e g r a t e d M a r k e t i n g ( f o r m e r l y K e l l e y H a b i b J o h n M a r k e t i n g

a n d A d v e r t i s i n g ) , H e a r s t N e w M e d i a , T e r r y E h l i n g a t T h e M I T P r e s s , E r r o l M o r -

r i s a t F o u r t h F l o o r P r o d u c t i o n s , J a y L u p i c a a t B u y e r s A d v a n t a g e , a n d J o h n H a b i b a t

A l e x a n d e r M o r t g a g e .

F o r t h e p a s t f o u r y e a r s I h a v e b e e n f o r t u n a t e t o b e p a r t o f t h e l o c a l f u n d r a i s i n g e o r t s o f S t . J u d e

C h i l d r e n ' s R e s e a r c h H o s p i t a l . T h a n k s t o a l l t h e p e o p l e i n v o l v i n g i n m a k i n g T o m o r r o w N i t e

' 9 3 - ' 9 6 h a p p e n , e s p e c i a l l y P a u l a n d J a n e A y o u b , J o e a n d C h r i s t a A y o u b , a n d S t e v e n a n d

K a r e n S a l h a n e y .

F o r a l m o s t t e n y e a r s I h a v e w o r k e d a s a m e m b e r o f P r o j e c t M A C ( t h e P r o j e c t o n M a t h e m a t i c s

a n d C o m p u t a t i o n ) a t t h e M I T A r t i c i a l I n t e l l i g e n c e L a b o r a t o r y . W h a t m a d e t h a t g r o u p s u c h a

g r e a t p l a c e t o w o r k i n t h e y e a r s g o n e b y w e r e t h e p e o p l e w h o i n h a b i t e d i t : M i c h a e l B l a i r , L i z

B r a d l e y , M i k e E i s e n b e r g , A r t h u r G l e c k l e r , P h i l i p G r e e n s p u n , K l e a n t h e s K o n i a r i s , B i l l

R o z a s , T h a n o s S i a p a s , J a s o n W i l s o n a n d H e n r y W u . T o g e t h e r t h e y f o r m e d a v e r y s p e c i a l

c o l l e c t i o n o f p e o p l e , o n e w i t h w h i c h I w a s p r o u d t o h a v e b e e n a s s o c i a t e d .

8/14/2019 ifish-tr

4/83

M y t h a n k s t o E l l e n S p e r t u s , D a v i d L a M a c c h i a , J i m M i l l e r a n d G e r a l d S u s s m a n f o r p r o -

v i d i n g c o m m e n t s o n e a r l y d r a f t s o f t h i s t h e s i s .

F o r m o s t o f m y g r a d u a t e c a r e e r I w a s f o r t u n a t e t o h a v e b e e n s u p p o r t e d b y a n A T & T F o u n d a t i o n

P h D F e l l o w s h i p . M y t h a n k s t o t h e A T & T F o u n d a t i o n a n d t h e f o r m e r A T & T B e l l L a b o -

r a t o r i e s f o r t h a t n a n c i a l s u p p o r t . T h e m a j o r i t y o f t h e w o r k i n t h i s t h e s i s w a s f u n d e d b y t h i s

f e l l o w s h i p .

P o r t i o n s o f t h i s t h e s i s w e r e a l s o s u p p o r t e d b y t h e O p e n S o f t w a r e F o u n d a t i o n R e s e a r c h I n -

s t i t u t e . P o r t i o n s o f t h i s t e c h n i c a l r e p o r t w e r e s u p p o r t e d b y a P a c k a r d F e l l o w s h i p i n S c i e n c e

a n d E n g i n e e r i n g f r o m t h e D a v i d a n d L u c i l e P a c k a r d F o u n d a t i o n .

G e r a l d J . S u s s m a n , M a t s u s h i t a P r o f e s s o r o f E l e c t r i c a l E n g i n e e r i n g , s u p e r v i s e d t h i s t h e s i s . H a r o l d

A b e l s o n , C l a s s o f 1 9 2 2 P r o f e s s o r o f C o m p u t e r S c i e n c e a n d E n g i n e e r i n g , a n d J a m e s M i l l e r , W o r l d

W i d e W e b C o n s o r t i u m a n d M I T L a b o r a t o r y f o r C o m p u t e r S c i e n c e , s e r v e d a s r e a d e r s o n m y t h e s i s

c o m m i t t e e .

T h e r e a r e o t h e r s w h o s e a c t i o n s c o n t r i b u t e d t o t h e c o m p l e t i o n o f t h i s t h e s i s a t t h i s t i m e , i n t h i s

m a n n e r . W h i l e t h e i r a c t i o n s m u s t b e a c k n o w l e d g e d , i t d o e s n o t s e e m a p p r o p r i a t e t o d o s o h e r e i n

t h i s p l a c e . I c o m m e n d t o r e a d e r s i n t e r e s t e d i n t h o s e s t o r i e s m y f o r t h c o m i n g b o o k , D e f e n d i n g D a v e ,

a n d o t h e r t a l e s o f t h e ' N e t , w h i c h s h i n e s t h e b r i g h t l i g h t o f t r u t h a n d p u b l i c s c r u t i n y i n a n u m b e r

o f d a r k c o r n e r s .

T h i s t h e s i s d e s c r i b e s r e s e a r c h c o n d u c t e d a t t h e A r t i c i a l I n t e l l i g e n c e L a b o r a t o r y o f t h e M a s -

s a c h u s e t t s I n s t i t u t e o f T e c h n o l o g y . S u p p o r t f o r t h e L a b o r a t o r y ' s a r t i c i a l i n t e l l i g e n c e r e s e a r c h

i s p r o v i d e d i n p a r t b y t h e A d v a n c e d R e s e a r c h P r o j e c t s A g e n c y o f t h e D e p a r t m e n t o f D e f e n s e u n d e r

O c e o f N a v a l R e s e a r c h c o n t r a c t N 0 0 0 1 4 - 9 2 - J - 4 0 9 7 .

8/14/2019 ifish-tr

5/83

T h i s o n e ' s d e d i c a t e d t o a l o t o f p e o p l e .

I n m e m o r y o f m y f a t h e r ' s p a r e n t s

H o n . O t t o H . a n d D i n a h L a M a c c h i a

( I k n o w t h e J u d g e a p p r o v e s o f w h a t I h a v e d o n e )

a n d

I n h o n o r o f m y m o t h e r ' s p a r e n t s

G e r a l d a n d L e o n a T i g a r

( w h o h a v e b e e n m y h o m e a w a y f r o m h o m e h e r e i n B o s t o n )

F o r m y p a r e n t s ,

R o b e r t a n d S h e r r y L a M a c c h i a

w h o h a v e a l w a y s g i v e n o f t h e m s e l v e s s o t h a t I

m i g h t h a v e t h e b e s t p o s s i b l e e d u c a t i o n , w h a t e v e r t h e p r i c e

F o r a l l m y f r i e n d s w h o s t o o d b y m e i n t h e d a r k n e s s ,

k e e p i n g a l i v e t h e i c k e r i n g a m e o f h o p e :

Z i g g y , w h o t a u g h t m e h o w t o a r g u e ,

A r t h u r , w h o o p e n e d m y e y e s t o l i f e o u t s i d e t h e l a b ,

R u s s , w h o t a u g h t m e h o w t o k e e p s c o r e i n a b a l l g a m e ,

L i z , w h o t a u g h t m e h o w t o c l i m b m o u n t a i n s , r e a l a n d m e t a p h o r i c a l ,

R e t t a , w h o a l w a y s h a d a n e a r , o r a d v i c e , o r j u s t a s h o u l d e r t o c r y o n ,

P h i l i p , w h o s h o w e d m e L e x i s , W e s t l a w , a n d t h e p a t h t o H a r v a r d L a w S c h o o l ,

B i l l , w h o t a u g h t m e t o s t a n d b y m y p r i n c i p l e s a n d b e l i e f s , n o m a t t e r t h e c o s t ,

a n d , m o s t e s p e c i a l l y ,

H e n r y ,

m y m e n t o r , o c e m a t e , f r i e n d , c o n d a n t a n d d r i n k i n g b u d d y ,

w h o t a u g h t m e h o w t o a p p r e c i a t e w i n e , r o u t e n e t w o r k c a b l e ,

d e s i g n c i r c u i t s , g i v e o f m y s e l f t o c h a r i t y , a n d h a c k ,

b e i t c o d e , r e s t a u r a n t s o r h o t e l s ,

b u t , m o s t o f a l l ,

F o r D a v e ,

w h o h a d t o e n d u r e w h a t n o m a n s h o u l d e v e r h a v e t o e n d u r e ,

a n d i n d o i n g s o s h o w e d a d e p t h a n d s t r e n g t h o f

c h a r a c t e r , c o n v i c t i o n a n d s h e e r w i l l

t h a t I c a n o n l y h o p e t o e q u a l .

8/14/2019 ifish-tr

6/83

8/14/2019 ifish-tr

7/83

C o n t e n t s

1 I n t r o d u c t i o n 1

1 . 1 T h e I n t e r n e t : E v o l u t i o n i n A c t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

1 . 2 R e s o u r c e D i s c o v e r y o n t h e I n t e r n e t . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1 . 2 . 1 J u r a s s i c N e t | F T P a n d U s e n e t . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1 . 2 . 2 G o p h e r a n d o t h e r C a m p u s - W i d e I n f o r m a t i o n S y s t e m s ( C W I S ) . . . . . . . . 5

1 . 2 . 3 T h e W o r l d W i d e W e b . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

1 . 2 . 4 I n d e x i n g L o c a l F i l e s y s t e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8

1 . 2 . 5 C l i e n t - s i d e A p p r o a c h e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

1 . 3 T h e N e e d f o r S o m e t h i n g M o r e { t h e I n t e r n e t F i s h . . . . . . . . . . . . . . . . . . . 1 0

1 . 3 . 1 H e u r i s t i c K n o w l e d g e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1

1 . 3 . 2 L o n g - T e r m C o n v e r s a t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1

1 . 3 . 3 S e r e n d i p i t o u s R e s o u r c e D i s c o v e r y . . . . . . . . . . . . . . . . . . . . . . . . . 1 5

1 . 3 . 4 O t h e r G o a l s a n d L i m i t a t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 6

1 . 4 T h e R o a d A h e a d . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 7

2 E n c a p s u l a t i n g H e u r i s t i c K n o w l e d g e 1 9

2 . 1 C l a i m s a n d A s s u m p t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 0

2 . 2 I n f o c h u n k s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2

2 . 3 O p e r a t i o n s : T r a n d u c e r s a n d R u l e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 5

2 . 4 I n f o c h u n k - r u l e I n t e r a c t i o n s a n d S u p p o r t i n g S y s t e m S o f t w a r e . . . . . . . . . . . . . 2 8

2 . 4 . 1 T h e I n t e r a c t i o n L o o p . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 8

2 . 4 . 2 E v e n t s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 9

2 . 4 . 3 E r r o r H a n d l i n g a n d R e c o v e r y . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 0

2 . 4 . 4 R e s o u r c e M a n a g e m e n t . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 2

i

8/14/2019 ifish-tr

8/83

i i C o n t e n t s

3 U s e r I n t e r a c t i o n s a n d I n t e r e s t i n g n e s s 3 3

3 . 1 U s e r I n t e r a c t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 3

3 . 1 . 1 Q u e s t i o n s a n d A n s w e r s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 4

3 . 1 . 2 S y s t e m S u p p o r t . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 6

3 . 1 . 3 P u t t i n g I t A l l T o g e t h e r . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 9

3 . 1 . 4 O r d e r i n g Q u e s t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 2

3 . 2 I n t e r e s t i n g n e s s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 2

3 . 2 . 1 D e s i g n G o a l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 2

3 . 2 . 2 P r o t o t y p e I m p l e m e n t a t i o n o f I n t e r e s t i n g n e s s . . . . . . . . . . . . . . . . . . 4 4

4 T h e \ F i n d e r " I F i s h 4 9

4 . 1 B u i l d i n g a n I F i s h t h a t F i n d s W e b P a g e s \ L i k e T h e s e " . . . . . . . . . . . . . . . . . 4 9

4 . 2 H e u r i s t i c K n o w l e d g e i n t h e F i n d e r I F i s h . . . . . . . . . . . . . . . . . . . . . . . . . 4 9

4 . 2 . 1 H e u r i s t i c s t o F i n d N e w S o u r c e s o f I n f o r m a t i o n . . . . . . . . . . . . . . . . . 5 0

4 . 2 . 2 H e u r i s t i c s t o L o o k F o r R e l a t i o n s h i p s A m o n g R e t r i e v e d O b j e c t s . . . . . . . . 5 7

4 . 3 Q u e r y i n g t h e U s e r t o R e n e t h e S e a r c h . . . . . . . . . . . . . . . . . . . . . . . . . 6 0

4 . 4 A p p r o x i m a t i n g I n t e r e s t i n g n e s s o f W e b P a g e s . . . . . . . . . . . . . . . . . . . . . . 6 6

4 . 5 A S e s s i o n w i t h t h e I F i s h . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 0

5 T h e F u t u r e o f I F i s h 7 5

5 . 1 E v a l u a t i n g I F i s h P e r f o r m a n c e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 5

5 . 2 F u t u r e W o r k . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 7

5 . 2 . 1 S t r a i g h t - l i n e I m p r o v e m e n t s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 7

5 . 2 . 2 S e l f - a n a l y s i s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 8

5 . 2 . 3 I n t e r - I F i s h C o m m u n i c a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 9

5 . 2 . 4 I F i s h i n O t h e r I n f o r m a t i o n O c e a n s . . . . . . . . . . . . . . . . . . . . . . . . 7 9

5 . 2 . 5 T o w a r d S e r e n d i p i t o u s R e s o u r c e D i s c o v e r y . . . . . . . . . . . . . . . . . . . . 8 0

5 . 3 I F i s h a n d t h e F u t u r e o f I n f o r m a t i o n M a r k e t s . . . . . . . . . . . . . . . . . . . . . . 8 0

5 . 3 . 1 T h e M a r g i n a l C o s t o f C o n t e n t . . . . . . . . . . . . . . . . . . . . . . . . . . 8 1

5 . 3 . 2 T h e M a r g i n a l P r i c e o f T i m e . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 2

5 . 3 . 3 S e l l i n g T i m e : t h e N e x t L a y e r o f t h e \ I n t e r n e t W a r s " . . . . . . . . . . . . . . 8 3

5 . 4 C o n c l u s i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 6

8/14/2019 ifish-tr

9/83

L i s t o f T a b l e s

4 . 1 R e s u l t s o f a n A r c h i t e x t c o n c e p t s e a r c h . T h e l i s t e d l e n a m e i s t h e I F i s h - g e n e r a t e d

l e n a m e o f a l o c a l l y - c a c h e d c o p y o f t h e d o c u m e n t . T h e d o c u m e n t t i t l e i s t h e H T M L -

t a g g e d t i t l e i n t h e d o c u m e n t , i f o n e e x i s t s . . . . . . . . . . . . . . . . . . . . . . . . . 6 1

4 . 2 U s e r e v a l u a t i o n o f t o p d o c u m e n t s f o u n d b y t h e F i n d e r I F i s h . . . . . . . . . . . . . . 7 3

i i i

8/14/2019 ifish-tr

10/83

i v L i s t o f T a b l e s

8/14/2019 ifish-tr

11/83

L i s t o f F i g u r e s

1 - 1 G r o w t h o f t h e W o r l d W i d e W e b , a s m e a s u r e d b y W e b C r a w l e r 4 7 ] . . . . . . . . . . . 6

2 - 1 V a l u e s l o t s i n t h e i n f o c h u n k d a t a s t r u c t u r e a n d t y p i c a l c o n t e n t o f e a c h s l o t . . . . . . 2 3

2 - 2 V a l u e s l o t s i n t h e i n f o c h u n k d a t a s t r u c t u r e a n d t y p i c a l c o n t e n t o f e a c h s l o t . . . . . . 2 3

2 - 3 T h e s y n t a x o f t y p e i n f o d e c l a r a t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 4

2 - 4 A s a m p l e i n f o c h u n k a n d i t s i n t e r n a l c o m p o n e n t s . . . . . . . . . . . . . . . . . . . . 2 5

2 - 5 A n e x a m p l e I F i s h r u l e : U R L - > H T T P - R E Q U E S T - H E A D . . . . . . . . . . . . . . . . . . . . 2 7

2 - 6 A s i m p l i e d v i e w o f t h e I F i s h i n t e r a c t i o n l o o p . . . . . . . . . . . . . . . . . . . . . . 2 8

2 - 7 E v e n t s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 9

2 - 8 T h e I F i s h d e f a u l t e r r o r h a n d l e r . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 1

3 - 1 V a l u e s l o t s i n t h e q u e s t i o n d a t a s t r u c t u r e a n d t y p i c a l c o n t e n t o f e a c h s l o t . . . . . . . 3 5

3 - 2 A n e x a m p l e H T M L d o c u m e n t . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 7

3 - 3 T h e H T M L d o c u m e n t i n F i g u r e 3 - 2 r e p r e s e n t e d i n s - e x p H T M L . . . . . . . . . . . 3 8

3 - 4 R u l e d e c l a r a t i o n f o r K E Y W O R D / K E Y W O R D - > R E L E V A N C E - Q U E S T I O N . . . . . . . . . . . . 4 0

3 - 5 T h e t r a n s d u c e r t d c r / k e y w o r d / k e y w o r d - > r e l e v a n c e - q u e s t i o n . . . . . . . . . . . . 4 0

3 - 6 T h e q u e s t i o n - m a k e r q m / k e y w o r d / k e y w o r d - > r e l e v a n c e - q u e s t i o n . . . . . . . . . . 4 1

3 - 7 V a l u e s l o t s i n t h e i n t e r e s t i n g n e s s d a t a s t r u c t u r e . . . . . . . . . . . . . . . . . . . . . 4 4

3 - 8 T h e i n t e r e s t r u l e B A C K W A R D - L I N K - T O - R E L E V A N T . . . . . . . . . . . . . . . . . . . . . 4 5

3 - 9 A n e x a m p l e i n t e r e s t i n g n e s s s t r u c t u r e , i n c l u d i n g i t s c o n t e n t s . . . . . . . . . . . . . . . 4 6

3 - 1 0 A s i m p l e i n t e r e s t i n g n e s s e v a l u a t i o n f u n c t i o n . . . . . . . . . . . . . . . . . . . . . . . 4 6

4 - 1 T h e r u l e U R L - S T R I N G - > U R L . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 1

4 - 2 T h e r u l e H T T P - R E Q U E S T - H E A D - > H T T P - R E Q U E S T . . . . . . . . . . . . . . . . . . . . . 5 2

4 - 3 T h e r u l e H T T P - R E D I R E C T - H E A D . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 3

4 - 4 T h e r u l e K E Y W O R D - > L Y C O S - U R L . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 4

v

8/14/2019 ifish-tr

12/83

v i L i s t o f F i g u r e s

4 - 5 T h e r u l e L Y C O S - U R L - > A N C H O R S + U R L S . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 5

4 - 6 T h e r u l e A L T A V I S T A / K N O W N - U S E R - R E L E V A N T - U R L - > F I N D - R E F E R E N C I N G - U R L S . . . . . 5 7

4 - 7 T h e f u n c t i o n a r c h i t e x t / i n f o c h u n k - > k e y w o r d s , w h i c h c o m p u t e s l i k e l y k e y w o r d s

f o r a p a r t i c u l a r H T M L d o c u m e n t . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 9

4 - 8 A s a m p l e e r r o r - h a n d l e r q u e s t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 2

4 - 9 A s a m p l e k e y w o r d - r e l a t e d q u e s t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 3

4 - 1 0 R u l e d e c l a r a t i o n f o r A R C H I T E X T / R E L A T E D - D O C - > R E L E V A N C E - Q U E S T I O N . . . . . . . . 6 4

4 - 1 1 A s a m p l e q u e s t i o n g e n e r a t e d b y q m / a r c h i t e x t / r e l a t e d - d o c - > r e l e v a n c e - q u e s t i o n . 6 5

4 - 1 2 T h e i n t e r e s t r u l e N U L L - P A T H - U R L . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 6

4 - 1 3 T h e i n t e r e s t r u l e W E B S E R V E R . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 7

4 - 1 4 I n t e r e s t r u l e s f o r A R C H I T E X T / K N O W N - R E L E V A N T - D O C - > F I N D - R E L A T E D - D O C S - E V E N T . . . 6 8

4 - 1 5 T h e i n t e r e s t r u l e A R C H I T E X T / R E L A T E D - D O C - > R E L E V A N C E - Q U E S T I O N . . . . . . . . . . . 6 9

4 - 1 6 S e e d U R L s f o r t h e F i n d e r I F i s h . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 0

4 - 1 7 I n f o c h u n k d e c l a r a t i o n s f o r t h e s e e d U R L s . . . . . . . . . . . . . . . . . . . . . . . . . 7 1

4 - 1 8 D i s c o v e r e d d o c u m e n t s r a n k e d b y i n t e r e s t i n g n e s s . . . . . . . . . . . . . . . . . . . . . 7 1

4 - 1 9 U s e r q u e s t i o n s g e n e r a t e d b y t h e F i n d e r I F i s h . . . . . . . . . . . . . . . . . . . . . . 7 2

4 - 2 0 D i s c o v e r e d d o c u m e n t s r a n k e d b y i n t e r e s t i n g n e s s . . . . . . . . . . . . . . . . . . . . . 7 4

5 - 1 W e b i n f r a s t r u c t u r e l a y e r s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 3

8/14/2019 ifish-tr

13/83

C h a p t e r 1

I n t r o d u c t i o n

1 . 1 T h e I n t e r n e t : E v o l u t i o n i n A c t i o n

T a k e a n y c u r r e n t n e w s p a p e r a n d l a y i t s i d e - b y - s i d e w i t h a n i s s u e o f t h e s a m e p a p e r t w o o r t h r e e

y e a r s o l d . N o w c o m p a r e t h e t w o p a p e r s : o f c o u r s e t h e n a m e s a n d f a c e s a n d p l a c e s \ i n t h e n e w s "

w i l l b e d i e r e n t , b u t l o o k b e y o n d t h a t . L o o k a t t h e \ m a i l a d d r e s s e s " t h a t a p p e a r i n t o d a y ' s

p a p e r , l i k e \ l o s e r s @ w p o s t . c o m

1

. " S e e t h e s t r a n g e l i n e s o f c h a r a c t e r s i n t h e a u t o m o b i l e a d s

( h t t p : / / w w w . h o n d a . c o m / ) o r i n t h e m o v i e a d s ( h t t p : / / w w w . m c a . c o m / o t h e l l o ) . L o o k t h r o u g h

t h e c l a s s i e d a d s a t t h e n u m b e r o f p e o p l e o e r i n g \ W e b s e r v i c e s " o r \ u n l i m i t e d I n t e r n e t A c c e s s f o r

o n l y $ 1 5 / m o n t h . " P i c k u p a c o p y o f N e w s w e e k ( w h i c h d e c l a r e d 1 9 9 5 \ T h e Y e a r o f t h e I n t e r n e t " )

a n d t u r n t o t h e w e e k l y f e a t u r e c a l l e d \ C y b e r s c o p e . " T h i r t y - s i x m o n t h s a g o a n y m e n t i o n o f t h e

I n t e r n e t i n t h e p o p u l a r p r e s s w a s r a r e ; n o w n o t a d a y g o e s b y w i t h o u t a n I n t e r n e t n e w s s t o r y .

T h e r e i s n o d e n y i n g t h e h y p e s u r r o u n d i n g t h e I n t e r n e t ; o n e n e e d o n l y l o o k t h e i n i t i a l p u b l i c

o e r i n g s ( I P O s ) a n d s u b s e q u e n t s t o c k p r i c e u c t u a t i o n s o f I n t e r n e t - r e l a t e d c o m p a n i e s l i k e N e t s c a p e

C o m m u n i c a t i o n s o r Y a h o o f o r a t a n g i b l e i n d i c a t i o n o f t h e f u t u r e e x p e c t a t i o n s p l a c e d o n t h e m e d i u m .

E a r l i e r t h i s y e a r w e c e l e b r a t e d t h e 2 5 t h a n n i v e r s a r y o f t h e \ f o u n d i n g " o f t h e A R P A n e t , a n d y e t o v e r

a l l t h o s e y e a r s t h e c o n t i n u e d c o n n e c t i o n s o f w i d e l y - s e p a r a t e d c o m p u t a t i o n s o u r c e s a n d d a t a s t o r a g e

r e p o s i t o r i e s b a r e l y r e c e i v e d n o t i c e . W h e r e a s b e f o r e t h i s r e c e n t e x p l o s i o n t h e t y p e s o f i n f o r m a t i o n

a v a i l a b l e o n - l i n e v i a t h e I n t e r n e t w e r e s e v e r e l y l i m i t e d , n o w t h e r s t p l a c e t o l o o k f o r i n f o r m a t i o n

o f a n y t y p e i s \ t h e n e t . " O v e r t h e l a s t 3 6 m o n t h s w e h a v e s e e n t r e m e n d o u s g r o w t h i n b o t h t h e

q u a n t i t y a n d v a r i e t y o f i n f o r m a t i o n b e i n g p u b l i s h e d o n t h e I n t e r n e t . M o r e p e o p l e a r e a c q u i r i n g

a c c e s s t o t h e I n t e r n e t ( e i t h e r d i r e c t l y o r v i a a n I n t e r n e t S e r v i c e P r o v i d e r ( I S P ) ) , m o r e p e o p l e a r e

l e a r n i n g h o w t o a c c e s s r e m o t e s o u r c e s o f i n f o r m a t i o n , a n d m o r e p e o p l e a r e p u t t i n g t h e i r o w n d a t a

\ o n t h e n e t " f o r p u b l i c c o n s u m p t i o n . I f y o u w a n t t o k n o w t o d a y ' s b a s e b a l l s c h e d u l e ( a s s u m i n g t h e

p l a y e r s a r e n o t o n s t r i k e ) , s h a r e p r i c e s f o r m u t u a l f u n d s , t h e l a t e s t w e a t h e r r e p o r t s a n d s a t e l l i t e

i m a g e s , o r e v e n t h e L a t i n n a m e f o r t h e s t i c k y w a t t l e p l a n t , y o u c a n o b t a i n t h a t i n f o r m a t i o n f r o m

s o u r c e s o n t h e I n t e r n e t .

T h e p r o b l e m f a c i n g I n t e r n e t u s e r s t o d a y i s n o t w h e t h e r r e l e v a n t i n f o r m a t i o n i s a v a i l a b l e o n - l i n e

( i t m o s t l i k e l y i s ) , o r w h e t h e r i t i s p o s s i b l e t o g a i n a c c e s s t o t h e r e l e v a n t i n f o r m a t i o n r e p o s i t o r i e s .

T o d a y ' s p r o b l e m i s i n n d i n g t h e r e p o s i t o r i e s t h a t h a v e t h e d e s i r e d i n f o r m a t i o n . R e c e n t d i s t r i b u t e d

1

T h e e - m a i l a d d r e s s f o r t h e W a s h i n g t o n P o s t ' s w e e k l y S t y l e I n v i t a t i o n a l c o n t e s t .

1

8/14/2019 ifish-tr

14/83

2 C h a p t e r 1 . I n t r o d u c t i o n

i n f o r m a t i o n s y s t e m s h a v e m a d e p u b l i s h i n g i n f o r m a t i o n e a s y , b u t n d i n g a s i n g l e p i e c e o f d e s i r e d

d a t a i n t h e I n t e r n e t ' s s e a o f i n f o r m a t i o n i s l i k e t r y i n g t o n d a n e e d l e i n 1 0 , 0 0 0 h a y s t a c k s . R e s o u r c e

d i s c o v e r y i s t h e p r o c e s s b y w h i c h c u s t o m e r s n d s o u r c e s f o r t h e d a t a t h e y d e s i r e . A s t h e a m o u n t o f

I n t e r n e t - a c c e s s i b l e d a t a c o n t i n u e s t o g r o w , t h e r e i s a n i n c r e a s i n g n e e d f o r t o o l s t o d i s c o v e r , o r g a n i z e

a n d c a t e g o r i z e n e w s o u r c e s o f i n f o r m a t i o n .

T h e r e s o u r c e d i s c o v e r y p r o b l e m i s n o t n e w ; r e s e a r c h o n r e s o u r c e d i s c o v e r y d a t e s b a c k t h i r t y

y e a r s o r m o r e 5 2 ] . W h a t h a v e c h a n g e d a r e s o m e o f t h e f u n d a m e n t a l a s s u m p t i o n s c o n c e r n i n g

t h e u n d e r l y i n g p o o l o f i n f o r m a t i o n t h a t i s a c c e s s i b l e t o t h e u s e r . N o t h i n g i n t h e s e a o f a v a i l a b l e

i n f o r m a t i o n m a y b e c o n s i d e r e d s t a t i c a n y m o r e . T h e i n f o r m a t i o n i t s e l f i s d y n a m i c , t h e r e p o s i t o r i e s

o f i n f o r m a t i o n a r e d y n a m i c , t h e p r i m i t i v e i n d e x i n g t o o l s a v a i l a b l e a r e d y n a m i c , a n d e v e n t h e s e t

o f a v a i l a b l e t o o l s i s d y n a m i c a s n e w s e r v i c e s a i m e d a t h e l p i n g p e o p l e n d t h e i n f o r m a t i o n t h e y

d e s i r e a n n o u n c e t h e m s e l v e s t o t h e w o r l d c o n s t a n t l y . T h e b o o k s p u b l i s h e d t h a t p u r p o r t t o c o n t a i n

\ c a t a l o g s " o f t h e I n t e r n e t o r \ y e l l o w p a g e s - l i k e " l i s t i n g s a r e d a t e d a s s o o n a s t h e y a r e c o m m i t t e d t o

p a p e r . E v e n t h e w e l l - m a i n t a i n e d o n - l i n e c a t e g o r i c a l l i s t i n g s o f d a t a r e p o s i t o r i e s a r e h a v i n g t r o u b l e

m a i n t a i n i n g t h e m s e l v e s i n t h e f a c e o f e x p o n e n t i a l g r o w t h

2

.

R e s o u r c e d i s c o v e r y i s g e n e r a l l y i n t e r p r e t e d t o r e f e r t o t h e p r o b l e m o f n d i n g a n e t w o r k - a c c e s s i b l e

r e s o u r c e t h a t c o n t a i n s s o m e p i e c e o f d e s i r e d i n f o r m a t i o n . H o w e v e r , t h e r e i s a n o t h e r a n g l e t o t h e

s a m e p r o b l e m : m a i n t a i n i n g w a t c h o v e r a g r o w i n g s t r e a m o f i n f o r m a t i o n . I n t h i s c a s e , n d i n g

r e l a t e d i n f o r m a t i o n r e s o u r c e s i s n o t t h e p r o b l e m ( t h e r e s o u r c e s a r e a l r e a d y k n o w n ) ; t h e p r o b l e m i s

t h a t t h e r a t e a t w h i c h n e w i n f o r m a t i o n i s a d d e d t o t h a t r e s o u r c e i s g r o w i n g a n d t h u s m o r e e o r t i s

r e q u i r e d t o m a i n t a i n t h e s a m e l e v e l o f a w a r e n e s s w i t h r e s p e c t t o t h e i n f o r m a t i o n r e s o u r c e . ( A n y o n e

w h o h a s t r i e d t o r e m a i n c u r r e n t i n a U s e n e t n e w s g r o u p a s t h a t n e w s g r o u p u n d e r g o e s a n e x p l o s i o n

o f t r a c h a s e x p e r i e n c e d t h i s p r o b l e m . ) M a i n t a i n i n g a x e d l e v e l o f a w a r e n e s s w i t h r e s p e c t t o a n

i n f o r m a t i o n s o u r c e a s t h a t s o u r c e g r o w s i s a v a r i a n t o f t h e r e s o u r c e d i s c o v e r y p r o b l e m .

T h e m a j o r i t y o f I n t e r n e t r e s o u r c e d i s c o v e r y t o o l s t o d a t e h a v e b e e n b a s e d o n t h e i d e a o f p r o -

v i d i n g l a r g e , m o n o l i t h i c

3

s e r v e r s t h a t h o l d i n d e x e s o f a v a i l a b l e i n f o r m a t i o n . T h e A r c h i e 1 8 ] , D e -

j a N e w s 1 4 ] , V e r o n i c a 2 3 ] , E x c i t e 2 0 ] , a n d W e b C r a w l e r 4 7 ] s e r v i c e s a r e a l l r e p r e s e n t a t i v e e x a m p l e s

o f m o n o l i t h i c s e r v e r s

4

; t h e r e a r e o f c o u r s e m a n y o t h e r s i m i l a r s y s t e m s 1 5 , 2 8 , 2 9 , 3 5 , 3 6 , 3 9 , 5 9 ] .

T h e s o u r c e a n d t y p e o f i n f o r m a t i o n i n d e x e d v a r i e s b y s e r v i c e : A r c h i e a n d V e r o n i c a , f o r e x a m p l e ,

i n d e x o n l y l e n a m e s o r h e a d e r l i n e s . O t h e r s e r v i c e s p r o v i d e s u m m a r y - b a s e d i n d e x i n g 3 6 , 4 7 ] o r

f u l l - t e x t i n d e x i n g 1 5 , 3 1 ] .

W h i l e t h e s e b r o a d - b a s e d i n d e x e s o f t e n p r o v i d e u s e f u l s t a r t i n g p o i n t s f o r f u r t h e r r e s o u r c e d i s -

c o v e r y , t h e y t h e m s e l v e s a r e n o t s u c i e n t t o o l s f o r d e a l i n g w i t h t h e g r o w i n g c o l l e c t i o n o f I n t e r n e t -

a c c e s s i b l e d a t a . T h e y o f t e n s u e r f r o m t h e \ t o o l i t t l e / t o o m u c h " p r o b l e m : f o r a g i v e n q u e r y , t h e

i n d e x i n q u e s t i o n r e t u r n s e i t h e r t o o f e w r e s o u r c e s ( t h u s f r u s t r a t i n g t h e u s e r ) o r t o o m a n y r e s o u r c e s

( w h i c h t h e u s e r c a n n o t d e a l w i t h i n a r e a s o n a b l e m a n n e r )

5

T h e r e i s a l s o n o n o t i o n o f \ o n g o i n g

2

T h e Y a h o o 5 9 ] s e r v i c e i s n o w r e p o r t i n g o v e r 5 0 0 0 n e w a d d i t i o n r e q u e s t s e v e r y w e e k . A p r o j e c t t h a t w a s s t a r t e d

b y a c o u p l e o f g r a d u a t e s t u d e n t s p r o v i d i n g a u s e f u l s e r v i c e i n t h e i r s p a r e t i m e h a s b l o s s o m e d i n t o a f u l l - b l o w n

c o m m e r c i a l e n t e r p r i s e .

3

\ M o n o l i t h i c " h e r e r e f e r s t o t h e l o g i c a l r e p r e s e n t a t i o n o f t h e s e r v e r t o t h e u s e r . T h e f a c t t h a t a s e r v e r m a y b e

f u l l y - r e p l i c a t e d a c r o s s m u l t i p l e m a c h i n e s f o r p e r f o r m a n c e r e a s o n s d o e s n ' t c h a n g e t h e b a s i c m o d e l .

4

R e c e n t w o r k o n t h e H a r v e s t 9 ] s y s t e m h a s e x t e n d e d t h e \ m o n o l i t h i c s e r v e r " a p p r o a c h t o a d i s t r i b u t e d , m u l t i - l e v e l

i n d e x i n g s c h e m e .

5

F o r e x a m p l e , a s i m p l e q u e r y t o D i g i t a l ' s A l t a V i s t a s e r v i c e 1 5 ] o n t h e t e r m \ c r y p t o g r a p h y " r e t u r n s a l i s t o f

\ d o c u m e n t s 1 - 1 0 o f a b o u t 2 0 0 0 0 m a t c h i n g s o m e o f t h e q u e r y t e r m s , b e s t m a t c h e s r s t . " H a v i n g a c c e s s t o 2 0 0 0 0

p o s s i b l e a r t i c l e s i s g r e a t , b u t i t ' s n o t p r a c t i c a l f o r t h e u s e r t o p a g e t h r o u g h t h e r e s u l t s t e n a t a t i m e t o n d t h e

8/14/2019 ifish-tr

15/83

1 . 2 . R e s o u r c e D i s c o v e r y o n t h e I n t e r n e t 3

q u e r i e s " w i t h t h e s e s y s t e m s ; a n i n c o m i n g q u e r y i s p r o c e s s e d , a n s w e r e d a n d d i s m i s s e d . T h e i n d e x

i t s e l f i s a r e p r e s e n t a t i o n o f s o m e x e d s e t o f d a t a a t s o m e x e d p o i n t i n t i m e . I n o r d e r t o d e t e c t

n e w i n f o r m a t i o n r e s o u r c e s a s t h e y a p p e a r , t h e i n d e x i t s e l f m u s t b e u p d a t e d o n a c o n t i n u i n g b a s i s

a n d u s e r s m u s t q u e r y t h e i n d e x p e r i o d i c a l l y a n d l o o k f o r r e s u l t s n o t f o u n d b y p r i o r q u e r i e s .

T h i s t h e s i s d e s c r i b e s t h e d e s i g n , i m p l e m e n t a t i o n a n d d e p l o y m e n t o f a s y s t e m f o r c o n s t r u c t i n g

a d i e r e n t t y p e o f r e s o u r c e d i s c o v e r y t o o l , o n e t h a t t a i l o r s i t s e l f t o n d i n g r e s o u r c e s t h a t c o n t a i n

i n f o r m a t i o n r e l a t i n g t o a p a r t i c u l a r t o p i c a n d p e r h a p s m a i n t a i n i n g t h a t c o l l e c t i o n o f r e s o u r c e s o v e r

a n i n d e n i t e p e r i o d o f t i m e . T h e t o o l r u n s a u t o n o m o u s l y , a l t h o u g h b o t h i t a n d t h e u s e r t h a t c r e a t e s

i t a r e a b l e t o i n i t i a t e d i s c o u r s e w h e n d e s i r e d . W e c a l l t h i s t o o l a n \ I n t e r n e t F i s h " ( I F i s h ) b e c a u s e

i t \ s w i m s " i n t h e \ s e a o f i n f o r m a t i o n " t h a t i s t h e I n t e r n e t l o o k i n g f o r \ t a s t y b i t s o f i n f o r m a t i o n "

t h a t r e l a t e t o i t s t o p i c o f i n t e r e s t . I n t e r n e t F i s h b o t h n d n e w s o u r c e s o f i n f o r m a t i o n a n d a l s o

m o n i t o r k n o w n i n f o r m a t i o n s t r e a m s f o r n e w , i n t e r e s t i n g d a t a .

T h e r e m a i n d e r o f t h i s c h a p t e r l a y s t h e b a c k g r o u n d f o r o u r d i s c u s s i o n o f t h e I n t e r n e t F i s h .

S e c t i o n 1 . 2 b e l o w b r i e y o u t l i n e s p a s t a n d c u r r e n t w o r k i n t h e e l d o f r e s o u r c e d i s c o v e r y o n t h e

I n t e r n e t , i n c l u d i n g t h e m y r i a d o f c u r r e n t l y - p o p u l a r i n d e x s e r v i c e s a v a i l a b l e o n t h e W o r l d W i d e W e b

( S e c t i o n 1 . 2 . 3 ) . I n S e c t i o n 1 . 3 w e d i s c u s s h o w t h e s e c u r r e n t s y s t e m s f a i l t o m a k e u s e o f e n c a p s u l a t e d

h e u r i s t i c k n o w l e d g e ( S e c t i o n 1 . 3 . 1 ) a n d l o n g - t e r m c o n v e r s a t i o n s ( S e c t i o n 1 . 3 . 2 ) . S e c t i o n 1 . 4 o u t l i n e s

t h e s t r u c t u r e o f t h e r e m a i n d e r o f t h e t h e s i s .

1 . 2 R e s o u r c e D i s c o v e r y o n t h e I n t e r n e t

R e s e a r c h o n r e s o u r c e d i s c o v e r y t e c h n i q u e s h a s g r o w n c o n c u r r e n t l y w i t h w i d e s p r e a d p u b l i c a t i o n o f

i n f o r m a t i o n o n t h e I n t e r n e t . T h i s i s a p u r e c a s e o f n e c e s s i t y b e i n g t h e m o t h e r o f i n v e n t i o n ; a s

t h e a m o u n t o f i n f o r m a t i o n a v a i l a b l e h a s i n c r e a s e d i t h a s o u t s t r i p p e d t h e a b i l i t y o f i n d i v i d u a l s t o

m a n u a l l y \ k e e p u p " a n d o r g a n i z e t h e i n f o r m a t i o n . T h u s , a s i s n a t u r a l , a u t o m a t e d m e t h o d s o f

i n d e x i n g a v a i l a b l e i n f o r m a t i o n w e r e d e v e l o p e d . T h i s s e c t i o n b r i e y o u t l i n e s t h e m o r e w e l l - k n o w n

m e t h o d s o f p u b l i s h i n g i n f o r m a t i o n o n t h e I n t e r n e t a n d t h e i r a s s o c i a t e d i n d e x e s .

1 . 2 . 1 J u r a s s i c N e t | F T P a n d U s e n e t

T h e e a r l i e s t f o r m o f d a t a p u b l i c a t i o n o n t h e I n t e r n e t i s p r o b a b l y t h e a n o n y m o u s F T P s e r v e r 4 9 ] .

U s e o f F T P , t h e F i l e T r a n s f e r P r o t o c o l , t o m o v e l e s a c r o s s t h e n e t w o r k h a s a l w a y s b e e n o n e o f t h e

p r i m a r y u s e s o f t h e A R P A n e t ( a n d l a t e r t h e I n t e r n e t ) . H i s t o r i c a l l y F T P t r a c a c c o u n t e d f o r o v e r

4 0 % o f t h e t o t a l b y t e t r a c o n t h e N S F N E T b a c k b o n e . E v e n a s l a t e a s A p r i l , 1 9 9 5 , w h e n W W W

b y t e t r a c e x c e e d e d F T P t r a c , F T P t r a c s t i l l a c c o u n t e d f o r o v e r 2 0 % o f t h e u s e o f t h e n e t w o r k

6

.

A n y m a c h i n e t h a t c a n a c t a s a n F T P d a e m o n h a s t h e c a p a b i l i t y t o s e r v e l e s a n o n y m o u s l y ; t h a t

i s , t o a l l o w u n l i m i t e d a c c e s s t o p o r t i o n s o f i t s l e s y s t e m s o t h a t a n y o n e m a y a c c e s s a n d d o w n l o a d

p a r t i c u l a r r e s o u r c e s t h a t h e l p h i m o r h e r b e s t . I f t h e u s e r c a n p r o v i d e a m o r e r e n e d q u e r y ( e . g . \ c r y p t o g r a p h y

A N D k n a p s a c k " ) t h e s e a r c h r e s u l t s m a y b e c o m e t r a c t a b l e , b u t t h i s i s n o t a l w a y s p o s s i b l e . I n p a r t i c u l a r , i f t h e u s e r

p e r f o r m i n g t h e q u e r y d o e s n ' t a l r e a d y k n o w w h a t h e o r s h e w a n t s t o n d , i t m a y b e i m p o s s i b l e t o n a r r o w t h e s e a r c h

t o p r o d u c e a r e a s o n a b l e n u m b e r o f d o c u m e n t s .

6

T h e s e s t a t i s t i c s w e r e c o l l e c t e d b y M E R I T , I n c . , a s p a r t o f t h e i r o p e r a t i o n o f t h e N S F N E T b a c k b o n e n e t w o r k .

T h e N S F N E T c e a s e d t o e x i s t i n M a y , 1 9 9 5 , w h e n g o v e r n m e n t s u b s i d i e s f o r t h e b a c k b o n e e n d e d ; t r a c t h a t w a s

c a r r i e d o n t h e N S F N E T b a c k b o n e h a s s i n c e m i g r a t e d t o m u l t i p l e p a r a l l e l n e t w o r k s o p e r a t e d b y p r i v a t e c o m p a n i e s .

8/14/2019 ifish-tr

16/83


t h e d a t a s t o r e d t h e r e . T h i s c a p a b i l i t y h a s l o n g b e e n u s e d t o m a i n t a i n d a t a a r c h i v e s o n t h e I n t e r n e t

t h a t a r e f r e e l y a c c e s s i b l e .

G i v e n t h e n a m e o f a m a c h i n e t h a t a l l o w s a n o n y m o u s F T P a c c e s s a n d t h e n a m e o f a p a r t i c u l a r

l e o n t h a t s e r v e r , i t i s e a s y t o g a i n a c c e s s t o t h e s e r v e r a n d d o w n l o a d t h e s p e c i e d l e . H o w e v e r ,

w h e n o n e d o e s n o t h a v e b o t h o f t h e s e t w o p i e c e s o f i n f o r m a t i o n t h e t a s k o f n d i n g t h e d e s i r e d d a t a

i s s i g n i c a n t l y m o r e c o m p l i c a t e d . T h e F T P p r o t o c o l i t s e l f d o e s n o t p r o v i d e m e t h o d s f o r s e a r c h i n g

t h e c o n t e n t s o f r e m o t e s e r v e r s , a n d t h e r e i s n o g l o b a l r e g i s t r y o f m a c h i n e s r u n n i n g a n o n y m o u s F T P .

T h e A r c h i e 1 8 ] s y s t e m c o n n e c t s t o e a c h o f a x e d l i s t o f a n o n y m o u s F T P s e r v e r s a n d r e c u r s i v e l y

e x t r a c t s t h e s e r v e r ' s d i r e c t o r y s t r u c t u r e . A r c h i e t h e n i n d e x e s t h e a b s o l u t e p a t h n a m e s o f a l l t h e

l e s o n t h e s e r v e r i n q u e s t i o n . T h e i n d e x i s r e p l i c a t e d a c r o s s m u l t i p l e , d i s t r i b u t e d s e r v e r s a n d

i s a v a i l a b l e v i a a n u m b e r o f i n t e r f a c e s . A r c h i e d o e s n o t i n d e x t h e c o n t e n t s o f l e s a v a i l a b l e v i a

a n o n y m o u s F T P ; o n l y t h e n a m e s o f l e s a r e i n d e x e d .

T h e o t h e r m a j o r d a t a p u b l i s h i n g s y s t e m t h a t h a s l o n g b e e n a v a i l a b l e o n t h e I n t e r n e t i s t h e

c o l l e c t i o n o f U s e n e t n e w s g r o u p s , o f t e n c o l l e c t i v e l y c a l l e d \ n e t n e w s . " T o d a y , t h e r e a r e l i t e r a l l y

t h o u s a n d s o f i n d i v i d u a l U s e n e t n e w s g r o u p s

7

; t h e n u m b e r o f n e w s g r o u p s a v a i l a b l e t o a n y p a r t i c u l a r

u s e r i s a f u n c t i o n o f w h a t n e w s g r o u p s a r e r e c e i v e d a n d s t o r e d b y t h e u s e r ' s n e t n e w s s e r v e r m a c h i n e .

W h e r e a s F T P s e r v e r s a r e u s e d a l m o s t e x c l u s i v e l y f o r t h e d i s t r i b u t i o n o f s t a t i c l e s ( d a t a , p r o g r a m s ,

e t c . ) , n e t n e w s i s u s e d f o r t h e m o s t p a r t t o d i s t r i b u t e c o m m u n i c a t i o n ( m e s s a g e s a m o n g g r o u p s o f

u s e r s ) .

U s e n e t i t s e l f p r o v i d e s f o r o n l y l i m i t e d a r c h i v a l s t o r a g e o f p o s t e d m e s s a g e s ; t h e a m o u n t o f t i m e

a n y p a r t i c u l a r m e s s a g e \ l i v e s " o n a n e w s s e r v e r d e p e n d s i n p a r t o n h o w l o n g t h a t n e w s s e r v e r h o l d s

n e t n e w s m e s s a g e s

8

. T y p i c a l l y m e s s a g e s a r e a r c h i v e d f o r 7 - 3 0 d a y s , e n o u g h t i m e f o r i n t e r e s t e d u s e r s

t o r e a d m e s s a g e s a n d m a i n t a i n s o m e s e n s e o f c o n t i n u i t y i n t h r e a d s o f d i s c u s s i o n , b u t s h o r t e n o u g h

t o l i m i t r e q u i r e d d i s k s p a c e . P e r m a n e n t a r c h i v e s a n d i n d e x i n g m e c h a n i s m s a r e p r o v i d e d b y o t h e r s

o n a n a s - n e e d e d ( o r a s - d e s i r e d ) b a s i s . F o r e x a m p l e , t h e s c i . m a t h n e w s g r o u p i s a r c h i v e d a t U R L

9

:

g o p h e r : / / m a t h . l f c . e d u / 1 1 / M a t h R e l I t e m s / s c i m a t h A r c h i v e

T h e a r c h i v e r e t a i n s e v e r y m e s s a g e a n d a u t o m a t i c a l l y b u i l d s a W A I S 3 1 ] i n d e x o f m e s s a g e c o n t e n t s .

T h e u s e n e t - a d d r e s s a r c h i v e 4 6 ] m a i n t a i n s a l i s t o f r e c e n t l y - s e e n e - m a i l a d d r e s s e s b y e x t r a c t i n g

a d d r e s s e s f r o m t h e s t r e a m o f n e t n e w s m e s s a g e s . M a n y \ F r e q u e n t l y A s k e d Q u e s t i o n s " l i s t s ( F A Q s )

a r e \ a r c h i v e d " b y a u t o m a t i c a l l y r e p o s t i n g t h e c o n t e n t s t o n e t n e w s p e r i o d i c a l l y ; t h e r e p o s t i n g t a s k s

a r e h a n d l e d b y a u t o m a t e d s e r v e r s . S o m e n e t n e w s F A Q s a r e a l s o a r c h i v e d v i a a n o n y m o u s F T P

a t s p e c i c s i t e s a r o u n d t h e I n t e r n e t ; t h i s i s a s p e c i a l c a s e o f t h e m o r e r e c e n t p h e n o m e n o n o f

f u l l y - i n d e x e d n e t n e w s s e r v e r s

1 0

. U s e n e t n e w s g r o u p s m a y a l s o b e g a t e w a y e d w i t h p a r t i c u l a r e - m a i l

m a i l i n g l i s t s ; t h e g a t e w a y p r o v i d e s b i d i r e c t i o n a l e x c h a n g e o f p o s t i n g s a n d a r t i c l e s s o t h a t n e w s g r o u p

a n d m a i l i n g l i s t s e e t h e s a m e c o l l e c t i o n o f w r i t i n g s . M a n y m a i l i n g l i s t s a r e a r c h i v e d a u t o m a t i c a l l y ,

s o U s e n e t p o s t i n g s m a y e v e n t u a l l y e n d u p o n a n F T P s e r v e r s o m e w h e r e w e l l a f t e r t h e a r t i c l e h a s

7

C u r r e n t l y m y o w n . n e w s r c l e , w h i c h r e c o r d s w h a t n e w s g r o u p s I s u b s c r i b e t o a n d w h a t a r t i c l e s I h a v e r e a d i n

e a c h n e w s g r o u p ) h a s o v e r 1 0 7 5 0 n e w s g r o u p s i n i t t o w h i c h I c o u l d s u b s c r i b e .

8

N e t n e w s s e r v e r s o f t w a r e a l l o w s s e r v e r a d m i n i s t r a t o r s t o d e c i d e w h e n a r t i c l e s i n a p a r t i c u l a r n e w s g r o u p s h o u l d

e x p i r e a n d b e r e m o v e d f r o m t h e s y s t e m . U s u a l l y t h e h i g h e r t h e v o l u m e o f t r a c i n a p a r t i c u l a r n e w s g r o u p t h e

s h o r t e d t h e t i m e p e r i o d a r t i c l e s a r e l e f t o n t h e s e r v e r .

9

T h r o u g h o u t t h i s d o c u m e n t w e r e f e r e n c e d o c u m e n t s p u b l i s h e d o n t h e I n t e r n e t w i t h U n i f o r m R e s o u r c e L o c a t o r s 6 ]

( U R L s ) .

1 0

C u r r e n t l y b o t h A l t a V i s t a 1 5 ] a n d D e j a N e w s 1 4 ] p r o v i d e f u l l y - i n d e x e d a c c e s s t o t h e i r c o l l e c t i o n o f n e w s g r o u p s .

T h e s e s e r v i c e s d o e x p i r e a r t i c l e s o v e r t i m e , b u t p r o v i d e a p p r o x i m a t e l y 6 0 - 9 0 d a y s w o r t h o f a c c e s s i n s o m e n e w s g r o u p s .

8/14/2019 ifish-tr

17/83


d i s a p p e a r e d f r o m n e w s s e r v e r s . O r , s i n c e s o m e m a i l i n g l i s t s a n d i n d i v i d u a l n e w s g r o u p s m a y a l s o

b e g a t e w a y e d t h r o u g h h y p e r t e x t - g e n e r a t i n g s e r v e r s , c o n t e n t o r i g i n a t i n g i n n e t n e w s m a y a l s o b e

a v a i l a b l e v i a t h e W o r l d W i d e W e b ( s e e S e c t i o n 1 . 2 . 3 b e l o w ) .

1 . 2 . 2 G o p h e r a n d o t h e r C a m p u s - W i d e I n f o r m a t i o n S y s t e m s ( C W I S )

T h e G o p h e r 4 0 ] s y s t e m , i n t r o d u c e d i n 1 9 9 2 , q u i c k l y b e c a m e p o p u l a r a s a p u b l i c a t i o n s y s t e m

b e c a u s e i t s i m p l i e d a c c e s s t o a w e b o f d i s t r i b u t e d i n f o r m a t i o n . G o p h e r p r e s e n t s t h e u s e r w i t h a

h i e r a r c h y o f m e n u s ; l e a f n o d e s i n t h e g r a p h m a y c o n t a i n t e x t , g r a p h i c s o r s o u n d . O n c e a G o p h e r

s e r v e r i s s e t u p o n a m a c h i n e , p u b l i s h i n g n e w d a t a i n \ G o p h e r s p a c e " i s r e l a t i v e l y e a s y , a s i s p r o v i d i n g

l o c a l l i n k s t o r e m o t e d a t a s o u r c e s . G o p h e r a l s o p r o v i d e s a l i m i t e d s e a r c h / i n d e x m e c h a n i s m f o r u s e r -

p u b l i s h e d i n d e x e s ; t h a t i s , a n i n d e x e d d a t a b a s e c a n b e a d d e d t o G o p h e r s p a c e a n d s i m p l e k e y w o r d

s e a r c h e s m a y b e p e r f o r m e d o n t h a t d a t a b a s e v i a t h e G o p h e r i n t e r f a c e . G o p h e r i t s e l f d o e s n o t

p r o v i d e a n y s o r t o f i n d e x i n g o f s e r v e r c o n t e n t s , a l t h o u g h i n d i v i d u a l s e r v e r o p e r a t o r s m a y i n d e x t h e

c o n t e n t s o f t h e i r s e r v e r s m a n u a l l y ( u s i n g s o m e t h i n g l i k e W A I S ) a n d p u b l i s h t h o s e i n d e x e s v i a t h e

G o p h e r s e a r c h / i n d e x i n t e r f a c e .

T h e V e r o n i c a s e r v i c e 2 3 ] p r o v i d e s t i t l e - b a s e d i n d e x i n g o f t h e c o n t e n t s o f G o p h e r s p a c e . V e r o n i c a

w a l k s t h r o u g h a l l t h e G o p h e r s e r v e r s a c c e s s i b l e f r o m t h e U n i v . o f M i n n e s o t a \ M o t h e r G o p h e r "

s e r v e r c o m p i l i n g a l i s t o f a l l a c c e s s i b l e d o c u m e n t s a n d d i r e c t o r i e s . T i t l e s a r e e x t r a c t e d f r o m e a c h

v i s i t e d d o c u m e n t d u r i n g t h e t r e e w a l k a n d c o l l e c t e d . T h i s c o l l e c t i o n i s t h e n s o r t e d , i n d e x e d a n d

d i s t r i b u t e d t o t h e v a r i o u s V e r o n i c a q u e r y s e r v e r s o n t h e I n t e r n e t . U s e r s a r e t h e n a b l e t o a c c e s s t h e

V e r o n i c a i n d e x v i a l i m i t e d b o o l e a n k e y w o r d s e a r c h e s .

G o p h e r w a s o n e o f a n u m b e r o f e a r l y c a m p u s - w i d e i n f o r m a t i o n s y s t e m s ( C W I S ) . T h e T e c h I n f o

s y s t e m 3 8 ] , d e v e l o p e d a t M I T , w a s a n o t h e r e a r l y a t t e m p t a t p r o v i d i n g d i s t r i b u t e d p u b l i c i n f o r -

m a t i o n . L i k e G o p h e r , T e c h I n f o w a s a h i e r a r c h i c a l c o l l e c t i o n o f l e s w h e r e l e a f n o d e s c o u l d c o n t a i n

t e x t , g r a p h i c , o r s o u n d l e s . U n l i k e G o p h e r , T e c h I n f o d i d n o t h a v e a c e n t r a l i z e d s e r v e r a n s w e r i n g

q u e r i e s . I n s t e a d , T e c h I n f o d i s t r i b u t e d a d e s c r i p t i o n o f t h e h i e r a r c h y o f i n f o r m a t i o n n o d e s v i a a n d

u n d e r l y i n g d i s t r i b u t e d l e s y s t e m ( A F S 4 2 , 5 7 ] , t h e A n d r e w F i l e S y s t e m ) t o p r o v i d e d i s t r i b u t e d

a c c e s s t o i n f o r m a t i o n . T e c h I n f o c l i e n t s o n l y n e e d e d a c c e s s t o t h i s d i s t r i b u t e d d a t a b a s e i n o r d e r

t o b u i l d a m e n u o f p o s s i b l e c h o i c e s f o r t h e u s e r . W h e n a l e a f n o d e w a s r e q u e s t e d t h e i n f o r m a t i o n

i n t h e d i s t r i b u t e d d a t a b a s e t o l d t h e T e c h I n f o c l i e n t w h e r e i t c o u l d n d t h e d e s i r e d l e w i t h i n t h e

l a r g e r A F S s y s t e m . T e c h I n f o w a s r s t s u b s u m e d i n t o G o p h e r s p a c e v i a a G o p h e r - t o - T e c h I n f o g a t e -

w a y t h a t r a n a s p a r t o f M I T ' s e a r l y G o p h e r s e r v i c e . L a t e r , a g a t e w a y f r o m H T T P t o T e c h I n f o w a s

d e p l o y e d , t h u s g i v i n g e v e r y W W W b r o w s e r a c c e s s t o T e c h I n f o i n f o r m a t i o n .

1 . 2 . 3 T h e W o r l d W i d e W e b

T h e i n t r o d u c t i o n o f t h e W o r l d W i d e W e b ( W W W o r \ t h e W e b " 3 ] ) i n 1 9 9 3 , a n d i n p a r t i c u l a r t h e

M o s a i c 1 ] f a m i l y o f W W W b r o w s e r s , h a s b e e n p r i m a r i l y r e s p o n s i b l e f o r t h e p h e n o m e n a l g r o w t h

i n I n t e r n e t p u b l i s h i n g s e e n t o d a y . M o s a i c / W W W i s o f t e n q u o t e d i n t h e p o p u l a r p r e s s a s t h e

I n t e r n e t ' s r s t \ k i l l e r a p p l i c a t i o n ] , " a k i n t o t h e r o l e V i s i c a l c p l a y e d i n t h e p o p u l a r i t y o f t h e A p p l e

I I m i c r o c o m p u t e r d u r i n g t h e e a r l y 1 9 8 0 s . M o s a i c ' s \ p o i n t - a n d - c l i c k " i n t e r f a c e t o t h e c o n s t a n t l y -

g r o w i n g h y p e r t e x t t h a t i s t h e W W W , t o g e t h e r w i t h i t s a b i l i t y t o s e a m l e s s l y i n t e r m i x t e x t , g r a p h i c s

a n d s o u n d , h a s d r a w n m a n y n e w p e o p l e o n t o t h e I n t e r n e t . T h e W W W a r c h i t e c t u r e a n d t h e p o p u l a r

8/14/2019 ifish-tr

18/83


H T T P s e r v e r s a v a i l a b l e f o r f r e e f r o m W 3 C

1 1

a n d N C S A m a k e i t p a r t i c u l a r l y e a s y f o r u s e r s t o a u t h o r

i n f o r m a t i o n a n d p u b l i s h i t o n t h e W e b .

I t i s d i c u l t a t b e s t t o m e a s u r e t h e s i z e o f t h e W W W . N e w W W W s e r v e r s a r e c o n s t a n t l y b e i n g

a d d e d t o t h e n e t w o r k a n d n e w d o c u m e n t s a r e c o n s t a n t l y b e i n g a d d e d t o e x i s t i n g s e r v e r s ; s i m i l a r l y

o l d s e r v e r s a n d d o c u m e n t s m a y n o l o n g e r b e a v a i l a b l e . S o m e W e b d o c u m e n t s a r e i n t e r f a c e s t o

u n d e r l y i n g d a t a b a s e s ; t h e c o m p l e t e c o n t e n t m a y b e a c c e s s i b l e f r o m t h e W e b b u t n o t i n a f a s h i o n

t h a t m a k e s i n d e x i n g p o s s i b l e . F i n a l l y , m a n y W e b b r o w s e r s s u p p o r t m u l t i p l e p r o t o c o l s : N e t s c a p e

2 . 0 , f o r e x a m p l e , s u p p o r t s H T T P , G o p h e r , F T P , U s e n e t ( t h r o u g h a u s e r - c u s t o m i z a b l e p a r t i c u l a r

n e t n e w s s e r v e r ) , a n d e - m a i l ( v i a S M T P 4 8 ] a n d P O P 4 3 ] ) . T h u s , w h e n o n e p u b l i s h e s d a t a v i a

G o p h e r , i t i s a v a i l a b l e n o t o n l y t o p e o p l e u s i n g G o p h e r - s p e c i c c l i e n t s b u t a l s o t o a n y o n e r u n n i n g

a W W W c l i e n t t h a t u n d e r s t a n d s t h e G o p h e r p r o t o c o l . B e c a u s e t h e s e b r o w s e r s p r o v i d e e e c t i v e l y

s e a m l e s s a c c e s s t o a w i d e r a n g e o f i n f o r m a t i o n , a n y m e a n i n g f u l m e a s u r e o f t h e s i z e o f t h e W W W

m u s t b e q u a l i e d a n d s t a t e w h i c h p a r t i c u l a r d e n i t i o n s o f \ s i z e " a n d \ W W W " t h e y d e p e n d u p o n .

F i g u r e 1 - 1 : G r o w t h o f t h e W o r l d W i d e W e b , a s m e a s u r e d b y W e b C r a w l e r 4 7 ] .

T h e r e h a v e b e e n a n d c o n t i n u e t o b e n u m e r o u s a t t e m p t s t o \ w a l k t h e W W W " a n d c o u n t a v a i l -

a b l e W W W s e r v e r s , d o c u m e n t s a n d e v e n w o r d s ; o u r b e s t s t a t i s t i c s t o d a t e c o m e f r o m t h e v a r i o u s

W e b i n d e x i n g s e r v i c e s t h a t a t t e m p t t o e x h a u s t i v e l y t r a v e r s e t h e W e b g a t h e r i n g d o c u m e n t s . F i g -

u r e 1 - 1 s h o w s t h e g r o w t h o f t h e W W W a s m e a s u r e d b y t h e n u m b e r o f a c c e s s i b l e H T T P s e r v e r s

d i s c o v e r e d o v e r t i m e b y W e b C r a w l e r

1 2

. C l a i m s o f b e i n g t h e \ m o s t c o m p r e h e n s i v e " i n d e x h a v e l e a d

1 1

T h e W o r l d W i d e W e b C o n s o r t i u m .

1 2

T h e W e b C r a w l e r - d e r i v e d d a t a n e c e s s a r i l y u n d e r c o u n t s t h e t r u e s i z e o f t h e W e b a s i t o n l y r e p r e s e n t s s e r v e r s t h a t

8/14/2019 ifish-tr

19/83


t o a r i v a l r y a n d i n f o r m a l c o m p e t i t i o n a m o n g t h e v a r i o u s i n d e x i n g p r o j e c t s t h a t c o n t i n u e s t o t h i s

d a y . F o r a w h i l e L y c o s 3 6 ] w a s t h e l e a d i n g i n d e x s e r v i c e , r e g i s t e r i n g h u n d r e d s o f t h o u s a n d s o f

a c c e s s e s e a c h d a y ; L y c o s r s t i d e n t i e d o v e r o n e m i l l i o n s e p a r a t e W e b d o c u m e n t s i n N o v e m b e r ,

1 9 9 4 . T h e W e b C r a w l e r s e r v i c e 4 7 ] ( a c q u i r e d b y A m e r i c a O n l i n e i n J u n e , 1 9 9 5 ) w a s t h e l e a d i n g

c o m p e t i t o r u n t i l D e c e m b e r , 1 9 9 5 , w h e n D i g i t a l ' s A l t a V i s t a 1 5 ] s e r v i c e w e n t o n - l i n e . A l t a V i s t a

b e g a n s e r v i c e w i t h a i n d e x c o v e r i n g o v e r t e n m i l l i o n i n d i v i d u a l W e b d o c u m e n t s a n d o v e r e i g h t

b i l l i o n i n d i v i d u a l w o r d s . B e t w e e n D e c e m b e r , 1 9 9 5 , a n d F e b r u a r y , 1 9 9 6 , A l t a V i s t a i n d e x e d a n o t h e r

e l e v e n m i l l i o n w e b p a g e s , b r i n g i n g t h e t o t a l n u m b e r o f i n d e x e d d o c u m e n t s t o t w e n t y - o n e m i l l i o n .

L y c o s h a s a l s o c r o s s e d t h e \ t e n m i l l i o n " b a r r i e r a n d c o n t i n u e s t o s e a r c h o u t n e w W e b s e r v e r s a n d

n e w d o c u m e n t s .

T h i s t r e m e n d o u s g r o w t h i n t h e a m o u n t o f d a t a p u b l i s h e d v i a W W W h a s l e d t o a n u m b e r

o f a t t e m p t s t o i n d e x t h e W e b ' s c o n t e n t s . I n i t i a l l y t h e s e a t t e m p t s p r o c e e d e d a l o n g t h e l i n e s o f

t h e V e r o n i c a p r o j e c t i n G o p h e r s p a c e : t h e y a t t e m p t e d t o c o l l e c t t i t l e - l i k e i n f o r m a t i o n a b o u t e v e r y

r e a c h a b l e p a g e o f d a t a o n t h e W W W a n d b u i l d b o o l e a n k e y w o r d s e a r c h e s i n t o t h a t d a t a b a s e . T h e

J u m p S t a t i o n 2 2 ] , p r o b a b l y t h e r s t w e l l - k n o w n a t t e m p t t o i n d e x a n y W W W i n f o r m a t i o n , c o l l e c t e d

o n l y \ " - t a g g e d i n f o r m a t i o n f r o m p a g e s i t e n c o u n t e r e d . ( T h e W W W W a n d e r e r 2 6 ] w a s

a s i m i l a r e a r l y p r o j e c t , a l t h o u g h i t s g o a l w a s o n l y t o d i s c o v e r a v a i l a b l e W W W s e r v e r s . I t o n l y

c o l l e c t e d i n f o r m a t i o n a b o u t m a c h i n e s t h a t w e r e r u n n i n g W W W s e r v e r s . ) L a t e r p r o j e c t s l i k e t h e

W o r l d W i d e W e b W o r m ( W W W W ) 3 9 ] , t h e W e b C r a w l e r a n d L y c o s , c o l l e c t e d m o r e s u m m a r y

i n f o r m a t i o n t o i n d e x f r o m e a c h W W W p a g e . F o r e x a m p l e , L y c o s t r i e s t o s u m m a r i z e t h e a c t u a l

c o n t e n t o f d o c u m e n t s i n a d d i t i o n t o c o l l e c t i n g h e a d i n g t e x t :

F o r e a c h d o c u m e n t f e t c h e d , L y c o s k e e p s t h e t i t l e , h e a d i n g s , s u b h e a d i n g s , a n d l i n k s , p l u s

t h e 1 0 0 h i g h e s t w e i g h t e d w o r d s ( u s i n g T f * I D f

1 3

w e i g h t i n g ) p l u s t h e r s t 2 0 l i n e s . 3 6 ]

T h e L y c o s a p p r o a c h t h u s t a k e s a d v a n t a g e o f h u m a n - t a g g e d i n f o r m a t i o n ( h e a d i n g s ) , o f t e n - a p p e a r i n g

k e y w o r d s a n d \ i n t r o d u c t o r y " t e x t t h a t g e n e r a l l y a p p e a r s a t t h e b e g i n n i n g o f a l e .

A s m e n t i o n e d a b o v e i n S e c t i o n 1 . 1 , t h e s h e e r a m o u n t o f a c c e s s i b l e a n d i n d e x e d i n f o r m a t i o n

o f t e n l e a d s t o t h e \ t o o m u c h / t o o l i t t l e " p r o b l e m . T h e u s e f u l n e s s o f b e i n g a b l e t o s e a r c h m a n y

m i l l i o n s o f d o c u m e n t s f o r p a r t i c u l a r k e y w o r d s d e p e n d s i n p a r t o n t h e n u m b e r o f d o c u m e n t s f o u n d .

K e y w o r d s e a r c h e s t h a t r e t u r n h u n d r e d s o f t h o u s a n d s o f \ h i t s " ( d o c u m e n t m a t c h e s ) a r e n o t p a r t i c -

u l a r l y u s e f u l , e s p e c i a l l y i f t h e d o c u m e n t s a r e \ s o r t e d i n n o p a r t i c u l a r o r d e r

1 4

. " T h e s e d r a w b a c k s

l e d t o t h e c r e a t i o n o f \ m o d e r a t e d " W e b s i t e l i s t i n g s e r v i c e s a n d c l a s s i c a t i o n s c h e m e s , t h e m o s t

s u c c e s s f u l t o d a t e b e i n g t h e Y a h o o 5 9 ] i n d e x i n g s e r v i c e . T h e g r a d u a t e s t u d e n t s w h o f o u n d e d Y a -

h o o

1 5

c r e a t e d a b r o a d , h i e r a r c h i c a l c l a s s i c a t i o n s c h e m e f o r W e b s i t e s b a s e d o n s u b j e c t m a t t e r ; t h e

c l a s s i c a t i o n s c h e m e i s s i m i l a r t o t h o s e u s e d b y t h e L i b r a r y o f C o n g r e s s ( f o r c l a s s i f y i n g b o o k s a n d

p e r i o d i c a l s ) a n d t h e A m e r i c a n M a t h e m a t i c a l S o c i e t y ' s M a t h R e v i e w s p u b l i c a t i o n s ( w h i c h c l a s s i f y

h a v e b e e n d i s c o v e r e d b y t h e i n d e x i n g r o b o t . T h e d a t a a l s o c o u n t s o n l y H T T P s e r v e r s a n d d o e s n o t i n c l u d e F T P o r

G o p h e r s e r v e r s .

1 3

( T e r m f r e q u e n c y ) * ( I n v e r s e D o c u m e n t f r e q u e n c y ) w e i g h t i n g i s d e s c r i b e d i n 5 2 ] .

1 4

S i m p l e k e y w o r d s e a r c h e s v i a A l t a V i s t a m a y n o t b e s o r t e d ; c o m p l i c a t e d s e a r c h e s m a y b e a b l e t o u s e a s c o r i n g

a l g o r i t h m t o s o r t t h e s e a r c h r e s u l t s . L y c o s a n d W e b C r a w l e r b o t h r e t u r n d o c u m e n t s a c c o r d i n g t o i n t e r n a l s c o r i n g

r u l e s .

1 5

Y a h o o w a s s t a r t e d b y D a v i d F i l o a n d J e r r y Y a n g , g r a d u a t e s t u d e n t s i n E l e c t r i c a l E n g i n e e r i n g a t S t a n f o r d , a s

a f r e e c l a s s i c a t i o n s e r v i c e , s i m i l a r t o a Y e l l o w P a g e s l i s t i n g . Y a h o o b e c a m e s o s u c c e s s f u l t h a t i t w a s s p u n o a s

a s t a r t - u p c o m p a n y . T o d a t e Y a h o o ' s r e v e n u e s t r e a m i s g e n e r a t e d s o l e l y b y a d v e r t i s i n g ; s m a l l a d v e r t i s e m e n t s a r e

p l a c e d i n e a c h p a g e o f s e a r c h r e s u l t s r e t u r n e d . M a n y o t h e r f r e e I n t e r n e t s e r v i c e s a r e s u p p o r t e d i n s i m i l a r f a s h i o n .

8/14/2019 ifish-tr

20/83


s c h o l a r l y m a t h e m a t i c a l p u b l i c a t i o n s b y t o p i c ) . T h e v a r i o u s Y a h o o h e a d i n g s , t h e a c t u a l t e x t o f

r e f e r e n c e d U R L s , a n d e v e n a s m a l l d e s c r i p t i o n o f t h e c o n t e n t s o f t h e W e b s i t e m a y a l l b e s e a r c h e d

b y k e y w o r d . Y a h o o ' s s u c c e s s s p a w n e d m u l t i p l e s i m i l a r s e r v i c e s : P o i n t C o m m u n i c a t i o n s ' P o i n t 3 5 ]

s e r v i c e ( n o w a l l i e d w i t h L y c o s ) , a n d t h e M c K i n l e y G r o u p ' s M a g e l l a n i n d e x 5 6 ] a r e t w o o f t h e

l a r g e s t c o m p e t i t o r s . P o i n t a n d M a g e l l a n b o t h p r o v i d e a c t u a l r e v i e w s a n d n u m e r i c a l r a t i n g s o f W e b

s i t e s . T h e p r o l i f e r a t i o n o f t h e s e v a r i o u s i n d e x i n g a n d s e a r c h s e r v i c e s , e a c h w i t h i t s o w n d o m a i n o f

c o v e r a g e , h a s l e d t o t h e c r e a t i o n o f \ m e t a - s e a r c h " s e r v i c e s l i k e M e t a C r a w l e r 5 4 ] , S a v v y S e a r c h 1 7 ]

a n d W e b C o m p a s s 5 0 ] . T h e s e s e r v i c e s u s e t h e m o n o l i t h i c i n d e x i n g s e r v i c e s a s s u b r o u t i n e s : t h e y

q u e r y e a c h o f t h e i n d e x i n g s e r v i c e s i n p a r a l l e l , a g g r e g a t e t h e r e s u l t s a n d r e t u r n t h e c o m p o s i t e t o

t h e u s e r w h o m a d e t h e q u e r y .

M a i n t a i n i n g t h e q u a l i t y o f a c l a s s i c a t i o n s c h e m e l i k e Y a h o o ' s i s t i m e c o n s u m i n g ; e n t r i e s m u s t

b e c h e c k e d , u p d a t e d , a n d r e v i s e d p e r i o d i c a l l y . Y a h o o a l l o w s p e o p l e t o s u b m i t p o i n t e r s t o n e w

W e b s i t e s t o b e i n c l u d e d i n t h e h i e r a r c h y , b u t e a c h s u b m i s s i o n m u s t s t i l l b e v a l i d a t e d b y h a n d f o r

r e l e v a n c e a n d a p p r o p r i a t e n e s s . R e v i e w s ( l i k e t h o s e p r o v i d e d b y P o i n t ) a n d r a t i n g s s y s t e m s ( l i k e

t h a t u s e d b y M a g e l l a n ) m u s t a l s o b e r e v i s e d p e r i o d i c a l l y o r t h e y w i l l c e a s e t o b e u s e f u l . S o m e o f t h i s

w o r k m a y b e p u s h e d b a c k o n t o t h e o p e r a t o r s o f t h e W e b s e r v e r s t h e m s e l v e s ; a f t e r a l l , a s i t e w i s h i n g

t o b e l i s t e d i n o n e o f t h e s e c l a s s i c a t i o n s e r v i c e s w i l l g l a d l y p r o v i d e t h e ( r e l a t i v e l y m i n i m a l ) e o r t o f

m a i n t a i n i n g t h e i r o w n s i t e ' s i n f o r m a t i o n , a n d t h e W e b m a k e s t h i s s o r t o f d i s t r i b u t e d c o l l a b o r a t i o n

e a s y

1 6

. I B M ' s A q u d a t a b a s e 2 9 ] o f W e b p a g e s a l l o w s i n d i v i d u a l u s e r s t o l i n k r e l a t e d p a g e s t o g e t h e r ;

t h e s e l i n k s a r e b i d i r e c t i o n a l a n d m a y b e f o u n d a t e i t h e r t h e r e f e r e n c i n g o r r e f e r e n c e d p a g e . T h u s ,

e v e n i f t h e o r i g i n a l W e b d o c u m e n t d o e s n o t c o n t a i n a p a r t i c u l a r p o i n t e r s u c h a l i n k m a y b e a d d e d

t o A q u a n d w i l l b e d i s p l a y e d w h e n t h e p a g e i s r e t r i e v e d v i a t h e A q u s y s t e m .

F i n a l l y , w e s h o u l d p o i n t o u t t h a t a s t h e c a p a b i l i t i e s o f t h e s e v a r i o u s i n d e x i n g s e r v i c e s i n c r e a s e d ,

o t h e r r a p i d l y - c h a n g i n g i n f o r m a t i o n s t r e a m s w e r e a b l e t o b e i n d e x e d , t o o . A l a r g e s u b s e t o f t h e

a v a i l a b l e U s e n e t n e w s g r o u p s a r e n o w f u l l y i n d e x e d b y b o t h A l t a V i s t a a n d D e j a N e w s 1 4 ] . D e j a N e w s

i n p a r t i c u l a r p r o v i d e s a c c e s s t o a p p r o x i m a t e l y t h e p a s t t h r e e m o n t h s w o r t h o f n e t n e w s p o s t i n g s .

I t i s p o s s i b l e t o s e a r c h t h e c o l l e c t e d d a t a b a s e b y s u b j e c t k e y w o r d , b y t i t l e k e y w o r d , o r b y a u t h o r

( e i t h e r n a m e o r e - m a i l a d d r e s s ) . A u t h o r s e a r c h e s y i e l d n o t o n l y t h e i n d i v i d u a l a r t i c l e s w r i t t e n b y

s o m e o n e b u t a l s o a s u m m a r y o f a r t i c l e s b y n e w s g r o u p . A r t i c l e s t h a t c o n t a i n U s e n e t r e f e r r a l h e a d e r s

a r e h y p e r l i n k e d t o t h e r e f e r e n c e d p o s t i n g s , t h u s m a k i n g i t e a s y t o c l i m b b a c k w a r d s a l o n g a t h r e a d

o f d i s c u s s i o n .

1 . 2 . 4 I n d e x i n g L o c a l F i l e s y s t e m s

T h e r e h a s a l s o b e e n m u c h w o r k r e c e n t l y i n p r o v i d i n g a d v a n c e d i n d e x i n g s e r v i c e s f o r l o c a l l e s y s t e m s .

T h e E s s e n c e 2 7 ] s y s t e m p r o v i d e s s e m a n t i c l e i n d e x i n g f o r a w i d e v a r i e t y o f l e t y p e s . E s s e n c e

u s e s h e u r i s t i c s ( s u c h a s l e n a m e s u x e s o r \ m a g i c n u m b e r s " i n U n i x b i n a r y l e s ) t o d e t e r m i n e

t h e t y p e o f i n f o r m a t i o n c o n t a i n e d i n a p a r t i c u l a r l e . C o n t e n t s u m m a r i e s a r e t h e n p r o d u c e d f o r

e a c h l e ; c o n t e n t s u m m a r y g e n e r a t i o n d e p e n d s o n t h e t y p e o f t h e l e . S u m m a r i e s a r e t h e n i n d e x e d

u s i n g a m o d i e d v e r s i o n o f W A I S t o p r o v i d e f a s t s e a r c h e s o v e r t h e c o l l e c t i o n o f s u m m a r i e s .

T h e S e m a n t i c F i l e S y s t e m ( S F S ) 2 4 ] i s a n o t h e r i n d e x i n g s y s t e m t h a t u s e s s e m a n t i c i n f o r m a t i o n

1 6

O n e o f t h e b e s t e x a m p l e s o f h a r n e s s i n g t h e c o l l e c t i v e p o w e r o f t h e W e b t o p r o d u c e c o l l a b o r a t i v e w o r k i s t h e

I n t e r n e t M o v i e D a t a b a s e , a v a i l a b l e a t h t t p : / / w w w . m s s t a t e . e d u / M o v i e s . A l l t h e i n f o r m a t i o n i n t h e d a t a b a s e w a s

s u b m i t t e d b y v o l u n t e e r s ; t h e r e s u l t i n g c o l l e c t i o n i s p e r h a p s t h e m o s t c o m p r e h e n s i v e s e t o f m o v i e - r e l a t e d f a c t s a n d

t r i v i a e v e r p u b l i s h e d .

8/14/2019 ifish-tr

21/83


t o c l a s s i f y l e s i n a l o c a l l e s y s t e m . S F S u s e s t r a n s d u c e r s ( l t e r s ) t o c o n v e r t l e s i n t o a t t r i b u t e -

v a l u e p a i r s , w h i c h a r e t h e n u s e d a s t h e b a s i s o f c l a s s i f y i n g l e s i n v i r t u a l l e s y s t e m s . V i r t u a l

d i r e c t o r y n a m e s i n S F S a r e i n t e r p r e t e d b y t h e s y s t e m a s i n d e x q u e r i e s ; t h e c o n t e n t o f a v i r t u a l

d i r e c t o r y i s t h e s e t o f l e s t h a t m a t c h e s t h e q u e r y . G i o r d ' s C o n t e n t R o u t e r 5 5 ] , a q u e r y s y s t e m f o r

d i s t r i b u t e d i n f o r m a t i o n s e r v e r s , i s b u i l t o n t o p o f t h e S F S . Q u e r i e s i n t h e C o n t e n t R o u t e r s y s t e m

d e s c r i b e d e s i r e d o b j e c t a t t r i b u t e s . T h e c o n t e n t s o f i n d i v i d u a l i n f o r m a t i o n s e r v e r s a r e d e s c r i b e d

b y c o n t e n t l a b e l s ; t h e s e l a b e l s a r e t h e n r e g i s t e r e d w i t h c o n t e n t r o u t e r s t h a t r e c e i v e u s e r q u e r i e s .

C o n t e n t r o u t e r s c o m p a r e a n i n c o m i n g u s e r q u e r y t o t h e s e t o f k n o w n c o n t e n t l a b e l s a n d f o r w a r d t h e

q u e r y t o a p p r o p r i a t e i n f o r m a t i o n s e r v e r s . V i r t u a l d i r e c t o r i e s g e n e r a t e d b y i n d i v i d u a l i n f o r m a t i o n

s e r v e r s a r e t h e n m e r g e d i n t o o n e v i e w p r e s e n t e d t o t h e u s e r .

T h e G L I M P S E 3 7 ] s y s t e m p r o v i d e s a n o t h e r a p p r o a c h t o i n d e x i n g l o c a l l e s y s t e m s . G L I M P S E

f a c i l i t a t e s f a s t s e a r c h i n g t h r o u g h t h e u s e o f a v e r y s m a l l , a p p r o x i m a t e i n v e r t e d i n d e x . G L I M P S E

d i v i d e s a c o l l e c t i o n o f d o c u m e n t s i n t o 2 5 6 b l o c k s

1 7

a n d b u i l d s a n i n v e r t e d i n d e x l i s t i n g , f o r e a c h

s e a r c h t e r m , t h e b l o c k s i n w h i c h t h a t t e r m o c c u r s . L i n e a r s e a r c h i s t h e n p e r f o r m e d o v e r t h e

i n d i c a t e d b l o c k s t o n d t h e e x a c t l o c a t i o n o f t h e s e a r c h t e r m i n t h e l e s y s t e m . G L I M P S E i s b u i l t

o n t o p o f a g r e p 5 8 ] , a n a p p r o x i m a t e r e g u l a r e x p r e s s i o n s e a r c h t o o l f o r i n d i v i d u a l l e s ; n o s e m a n t i c

a n a l y s i s i s p e r f o r m e d w h e n b u i l d i n g t h e G L I M P S E i n d e x .

1 . 2 . 5 C l i e n t - s i d e A p p r o a c h e s

A s m e n t i o n e d a b o v e , m o s t o f t h e r e s o u r c e d i s c o v e r y t o o l s a v a i l a b l e t o I n t e r n e t d a t a p u b l i s h e r s a r e

l a r g e , m o n o l i t h i c s y s t e m s t h a t \ r o b o t i c a l l y " g a t h e r d a t a f r o m t h e n e t w o r k . O n e n o t a b l e e x c e p t i o n

t o t h i s r u l e i s t h e W W W b r o w s e r - b a s e d \ s h s e a r c h " w o r k b y D e B r a a n d P o s t 1 3 ] . D e B r a a n d

P o s t m o d i f y a M o s a i c c l i e n t t o p e r f o r m l i m i t e d W W W s e a r c h e s s t a r t i n g f r o m a u s e r - d e s i g n a t e d

r o o t d o c u m e n t . \ F i s h s e a r c h " i s t h u s b a s i c a l l y a d e p t h - a n d b r e a d t h - l i m i t e d t r e e w a l k f r o m t h e

g i v e n r o o t , e x c e p t t h a t t h e d e p t h a n d b r e a d t h l i m i t s d y n a m i c a l l y c h a n g e o v e r t i m e b a s e d o n t h e

r e l e v a n c e o f d o c u m e n t s \ i n t h e h i e r a r c h y " a l r e a d y r e t r i e v e d .

T h e L e t i z i a s y s t e m 3 2 , 3 3 ] i s a n o t h e r c l i e n t - b a s e d t o o l t h a t a s s i s t s r e s o u r c e d i s c o v e r y . L e t i z i a

i s t i g h t l y c o u p l e d w i t h a p a r t i c u l a r W e b b r o w s e r a n d c o n s t a n t l y m o n i t o r s h o w t h e u s e r m a k e s u s e

o f t h e b r o w s e r . L e t i z i a a t t e m p t s t o l e a r n a b o u t u s e r p r e f e r e n c e s a n d i n t e r e s t s b y w a t c h i n g a n d

r e c o r d i n g w h i c h l i n k s t h e u s e r c h o o s e s o n e a c h p a g e . U s i n g t h i s i n f o r m a t i o n L e t i z i a t r i e s t o p r e d i c t

w h i c h l i n k s w i l l b e c h o s e n n e x t b y t h e u s e r a n d p r e f e t c h e s t h a t i n f o r m a t i o n w h i l e t h e u s e r i s r e a d i n g

t h e c o n t e n t s o f t h e c u r r e n t p a g e .

W e b b r o w s e r s t h e m s e l v e s a r e g r o w i n g i n w a y s t h a t m a k e t h e m m o r e u s e f u l f o r l o n g - t e r m r e s o u r c e

d i s c o v e r y a n d m a i n t e n a n c e . T h e \ h o t l i n k s " f e a t u r e o f M o s a i c ( \ b o o k m a r k s " i n N e t s c a p e ) i s a u s e r -

c r e a t e d l i s t o f U R L s ; t h e s e l i n k s a r e e a s i l y a c c e s s i b l e w i t h i n t h e b r o w s e r , t y p i c a l l y f r o m a p u l l - d o w n

m e n u . N e t s c a p e 2 . 0 c l i e n t s k e e p t r a c k o f w h e n t h e u s e r l a s t v i s i t e d t h e d o c u m e n t s r e f e r e n c e s b y

e a c h b o o k m a r k a n d i s a b l e t o a u t o m a t i c a l l y v i s i t t h e s e s i t e s t o c h e c k f o r c h a n g e d c o n t e n t . T h u s , a

u s e r i n t e r e s t e d i n w a t c h i n g o v e r a h u n d r e d i n d i v i d u a l W e b p a g e s m a y q u i c k l y d i s c o v e r w h i c h p a g e s

h a v e r e c e n t l y c h a n g e d a n d r e q u i r e r e v i e w

1 8

.

1 7

I n s t a n d a r d l e s y s t e m p a r l a n c e a b l o c k i s o f t e n a s u b d i v i s i o n o f a n i n d i v i d u a l l e . A b l o c k i n G L I M P S E m o s t

l i k e l y c o n t a i n s m a n y l e s , a s a b l o c k i s a l a r g e s u b d i v i s i o n o f t h e e n t i r e l e s y s t e m .

1 8

K n o w i n g o n l y t h a t a W e b p a g e h a s c h a n g e d , o f c o u r s e , i s n o t n e c e s s a r i l y s u c i e n t , a s i t m a y b e d i c u l t t o g u r e

o u t w h a t o n t h e p a g e h a s c h a n g e d . T h e A T & T I n t e r n e t D i e r e n c e E n g i n e 1 6 ] p r o v i d e s o n e s o l u t i o n t o t h i s p r o b l e m .

8/14/2019 ifish-tr

22/83

1 0 C h a p t e r 1 . I n t r o d u c t i o n

T h e L e t i z i a a n d \ s h s e a r c h " t o o l s b o t h i n t e r f a c e w i t h p a r t i c u l a r b r o w s e r s v i a a c l i e n t - c o n t r o l

i n t e r f a c e t h a t p r o v i d e s l i m i t e d a c c e s s t o t h e b r o w s e r . B r o w s e r s a r e b e c o m i n g m o r e e x t e n d a b l e

Documents

ifish-tr