File: Zend_Search_Lucene-Extending.xml

package info (click to toggle)
zendframework 1.12.9%2Bdfsg-2
  • links: PTS, VCS
  • area: main
  • in suites: jessie-kfreebsd
  • size: 133,584 kB
  • sloc: xml: 1,311,829; php: 570,173; sh: 170; makefile: 125; sql: 121
file content (485 lines) | stat: -rw-r--r-- 18,416 bytes parent folder | download | duplicates (2)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
<?xml version="1.0" encoding="utf-8"?>
<!-- EN-Revision: 24249 -->
<!-- Reviewed: no -->
<sect1 id="zend.search.lucene.extending">
    <title>Extensibilité</title>

    <sect2 id="zend.search.lucene.extending.analysis">
        <title>Analyse de texte</title>

        <para>
            La classe <classname>Zend_Search_Lucene_Analysis_Analyzer</classname> est utilisé par
            l'indexeur afin de transformer en segments les champs texte du document.
        </para>

        <para>
            Les méthodes <methodname>Zend_Search_Lucene_Analysis_Analyzer::getDefault()</methodname>
            et <code>Zend_Search_Lucene_Analysis_Analyzer::setDefault()</code> sont utilisées pour
            récupérer et définir l'analyseur par défaut.
        </para>

        <para>
            Vous pouvez assigner votre propre analyseur de texte ou choisir parmi un ensemble
            d'analyseurs prédéfinis&#160;:
            <classname>Zend_Search_Lucene_Analysis_Analyzer_Common_Text</classname> et
            <classname>Zend_Search_Lucene_Analysis_Analyzer_Common_Text_CaseInsensitive</classname>
            (par défaut). Tout deux interprètent les segments comme des séquences de lettres.
            <classname>Zend_Search_Lucene_Analysis_Analyzer_Common_Text_CaseInsensitive</classname>
            convertit tous les segments en minuscule.
        </para>

        <para>
            Pour changer d'analyseur&#160;:
        </para>

        <programlisting language="php"><![CDATA[
Zend_Search_Lucene_Analysis_Analyzer::setDefault(
    new Zend_Search_Lucene_Analysis_Analyzer_Common_Text());
...
$index->addDocument($doc);
]]></programlisting>

        <para>
            La classe <classname>Zend_Search_Lucene_Analysis_Analyzer_Common</classname> a été conçu
            pour être l'ancêtre de tous les analyseurs définis par l'utilisateur. L'utilisateur doit
            uniquement définir les méthodes <methodname>reset()</methodname> et
            <methodname>nextToken()</methodname>, qui prennent leur chaîne de caractères depuis la
            propriété $_input et retournent les segments un par un (une valeur
            <constant>NULL</constant> indique la fin du flux).
        </para>

        <para>
            La méthode <methodname>nextToken()</methodname> doit appeler la méthode
            <methodname>normalize()</methodname> sur chacun des segments. Ce qui vous permet
            d'utiliser des filtres de segments avec votre analyseur.
        </para>

        <para>
            Voici l'exemple d'analyseur personnalisé, qui accepte des mots contenant des chiffres
            comme terme&#160;:
            <example id="zend.search.lucene.extending.analysis.example-1">
                <title>Analyseur de texte personnalisé</title>
                <programlisting language="php"><![CDATA[
/**
 * Voici un analyseur de texte qui traite les mots contenant des chiffres comme
 * un seul terme
 */
class My_Analyzer extends Zend_Search_Lucene_Analysis_Analyzer_Common
{
    private $_position;
    /**
     * Remet à Zéro le flux de segments
     */
    public function reset()
    {
        $this->_position = 0;
    }
    /**
     * API du flux de segmentation
     * Récupère le segment suivant
     * Retourne null à la fin du flux
     *
     * @return Zend_Search_Lucene_Analysis_Token|null
     */
    public function nextToken()
    {
        if ($this->_input === null) {
            return null;
        }
        while ($this->_position < strlen($this->_input)) {
            // Saute les espaces
            while ($this->_position < strlen($this->_input) &&
                   !ctype_alnum( $this->_input[$this->_position] )) {
                $this->_position++;
            }
            $termStartPosition = $this->_position;
            // lit le segment
            while ($this->_position < strlen($this->_input) &&
                   ctype_alnum( $this->_input[$this->_position] )) {
                $this->_position++;
            }
            // Segment vide, fin de flux.
            if ($this->_position == $termStartPosition) {
                return null;
            }
            $token = new Zend_Search_Lucene_Analysis_Token(
                                      substr($this->_input,
                                             $termStartPosition,
                                             $this->_position -
                                             $termStartPosition),
                                      $termStartPosition,
                                      $this->_position);
            $token = $this->normalize($token);
            if ($token !== null) {
                return $token;
            }
            // Continue si le segment est sauté
        }
        return null;
    }
}
Zend_Search_Lucene_Analysis_Analyzer::setDefault(
    new My_Analyzer());
]]></programlisting>
            </example>
        </para>
    </sect2>

    <sect2 id="zend.search.lucene.extending.filters">
        <title>Filtrage des segments</title>

        <para>
            L'analyseur <classname>Zend_Search_Lucene_Analysis_Analyzer_Common</classname> offre
            aussi un mécanisme de filtrage des segments.
        </para>

        <para>
            La classe <classname>Zend_Search_Lucene_Analysis_TokenFilter</classname> fournit une
            interface abstraites pour ces filtres.
            Vos propres filtres devraient étendre cette classe directement ou indirectement.
        </para>

        <para>
            Chaque filtre personnalisé doit implémenter la méthode
            <methodname>normalize()</methodname> qui devrait transformer le segment en entrée ou
            signaler que le segment courant doit être sauté.
        </para>

        <para>
            Il y a trois filtres déjà défini dans le sous-paquet d'analyse&#160;:
            <itemizedlist>
                <listitem>
                    <para>
                        <classname>Zend_Search_Lucene_Analysis_TokenFilter_LowerCase</classname>
                    </para>
                </listitem>
                <listitem>
                    <para>
                        <classname>Zend_Search_Lucene_Analysis_TokenFilter_ShortWords</classname>
                    </para>
                </listitem>
                <listitem>
                    <para>
                        <classname>Zend_Search_Lucene_Analysis_TokenFilter_StopWords</classname>
                    </para>
                </listitem>
            </itemizedlist>
        </para>

        <para>
            Le filtre <code>LowerCase</code> filtre est déjà utilisé par défaut par l'analyseur
            <classname>Zend_Search_Lucene_Analysis_Analyzer_Common_Text_CaseInsensitive</classname>.
        </para>

        <para>
            Les filtres <code>ShortWords</code> et <code>StopWords</code> peuvent être utilisés avec
            des analyseurs prédéfinis ou personnalisés comme ceci&#160;:
            <programlisting language="php"><![CDATA[
$stopWords = array('a', 'an', 'at', 'the', 'and', 'or', 'is', 'am');
$stopWordsFilter =
    new Zend_Search_Lucene_Analysis_TokenFilter_StopWords($stopWords);
$analyzer =
    new Zend_Search_Lucene_Analysis_Analyzer_Common_TextNum_CaseInsensitive();
$analyzer->addFilter($stopWordsFilter);
Zend_Search_Lucene_Analysis_Analyzer::setDefault($analyzer);
]]></programlisting>
            <programlisting language="php"><![CDATA[
$shortWordsFilter = new Zend_Search_Lucene_Analysis_TokenFilter_ShortWords();
$analyzer =
    new Zend_Search_Lucene_Analysis_Analyzer_Common_TextNum_CaseInsensitive();
$analyzer->addFilter($shortWordsFilter);
Zend_Search_Lucene_Analysis_Analyzer::setDefault($analyzer);
]]></programlisting>
        </para>

        <para>
            Le constructeur <classname>Zend_Search_Lucene_Analysis_TokenFilter_StopWords</classname>
            prends un tableau de stop-words en entrée.
            Mais les stop-words peuvent aussi être chargé à partir d'un fichier&#160;:
            <programlisting language="php"><![CDATA[
$stopWordsFilter = new Zend_Search_Lucene_Analysis_TokenFilter_StopWords();
$stopWordsFilter->loadFromFile($my_stopwords_file);
$analyzer =
   new Zend_Search_Lucene_Analysis_Analyzer_Common_TextNum_CaseInsensitive();
$analyzer->addFilter($stopWordsFilter);
Zend_Search_Lucene_Analysis_Analyzer::setDefault($analyzer);
]]></programlisting>
            Ce fichier doit être un simple fichier texte avec un mot par ligne. Le caractère '#'
            transforme la ligne en commentaire.
        </para>

        <para>
            Le constructeur de la classe
            <classname>Zend_Search_Lucene_Analysis_TokenFilter_ShortWords</classname> a un argument
            optionnel.
            Il s'agit de la longueur maximum de mot, elle est définie par défaut à 2.
        </para>
    </sect2>

    <sect2 id="zend.search.lucene.extending.scoring">
        <title>Algorithme de score</title>

        <para>
            Le score d'un document <literal>d</literal> pour une requête <literal>q</literal>
            est défini comme suit&#160;:
        </para>

        <para>
            <code>score(q,d) = sum( tf(t in d) * idf(t) * getBoost(t.field in d) *
            lengthNorm(t.field in d) ) * coord(q,d) * queryNorm(q)</code>
        </para>

        <para>
            tf(t in d) - <methodname>Zend_Search_Lucene_Search_Similarity::tf($freq)</methodname> -
            un facteur de score basé sur la fréquence d'un terme ou d'une phrase dans un document.
        </para>

        <para>
            idf(t) -
            <methodname>Zend_Search_Lucene_Search_Similarity::idf($input, $reader)</methodname> -
            un facteur de score pour un terme simple de l'index spécifié.
        </para>

        <para>
            getBoost(t.field in d) - le facteur d'impulsion pour le champ du terme.
        </para>

        <para>
            lengthNorm($term) - la valeur de normalisation pour un champ donné du nombre total de
            terme contenu dans un champ. Cette valeur est stockée dans l'index.
            Ces valeurs, ainsi que celle du champ d'impulsion, sont stocké dans un index et
            multipliées par le score de hits par code de recherche sur chaque champ.
        </para>

        <para>
            La correspondance au sein de champs plus long est moins précise, ainsi l'implémentation
            de cette méthode retourne généralement de plus petites valeurs quand numTokens est
            important, et de plus grandes valeurs lorsque numTokens est petit.
        </para>

        <para>
            coord(q,d) -
            <methodname>
                Zend_Search_Lucene_Search_Similarity::coord($overlap, $maxOverlap)
            </methodname> - un facteur de score basé sur la fraction de tout les termes de la
            recherche que le document contient.
        </para>

        <para>
            La présence d'une grande partie des termes de la requête indique une meilleure
            correspondance avec la requête, ainsi les implémentations de cette méthode retourne
            habituellement de plus grandes valeurs lorsque le ration entre ces paramètres est grand
            que lorsque le ratio entre elle est petit.
        </para>

        <para>
            queryNorm(q) - la valeur de normalisation pour la requête en fonction de la somme des
            poids au carré de chaque terme de la requête.
            Cette valeur est ensuite multipliée par le poids de chacun des termes de la requête.
        </para>

        <para>
            Ceci n'affecte pas le classement, mais tente plutôt de faire des scores à partir de
            différentes requêtes comparables entre elles.
        </para>

        <para>
            Les algorithmes de score peuvent être personnalisés en définissant votre propre classe
            de similitude.
            Pour ce faire, étendez la classe
            <classname>Zend_Search_Lucene_Search_Similarity</classname> comme défini ci-dessous,
            puis appelez la méthode
            <classname>Zend_Search_Lucene_Search_Similarity::setDefault($similarity);</classname>
            afin de la définir par défaut.
        </para>

        <programlisting language="php"><![CDATA[
class MySimilarity extends Zend_Search_Lucene_Search_Similarity {
    public function lengthNorm($fieldName, $numTerms) {
        return 1.0/sqrt($numTerms);
    }
    public function queryNorm($sumOfSquaredWeights) {
        return 1.0/sqrt($sumOfSquaredWeights);
    }
    public function tf($freq) {
        return sqrt($freq);
    }
    /**
     * Ceci n'est pas encore utilisé. Cela évalue le nombre de correspondance
     * d'expressions vagues, basé sur une distance d'édition.
     */
    public function sloppyFreq($distance) {
        return 1.0;
    }
    public function idfFreq($docFreq, $numDocs) {
        return log($numDocs/(float)($docFreq+1)) + 1.0;
    }
    public function coord($overlap, $maxOverlap) {
        return $overlap/(float)$maxOverlap;
    }
}
$mySimilarity = new MySimilarity();
Zend_Search_Lucene_Search_Similarity::setDefault($mySimilarity);
]]></programlisting>
    </sect2>

    <sect2 id="zend.search.lucene.extending.storage">
        <title>Conteneur de stockage</title>

        <para>
            La classe abstraite <classname>Zend_Search_Lucene_Storage_Directory</classname> définit
            la fonctionnalité de répertoire.
        </para>

        <para>
            Le constructeur <classname>Zend_Search_Lucene</classname> utilise soit une chaîne soit
            un objet <classname>Zend_Search_Lucene_Storage_Directory</classname> en paramètre.
        </para>

        <para>
            La classe <classname>Zend_Search_Lucene_Storage_Directory_Filesystem</classname>
            implémente la fonctionnalité de répertoire pour un système de fichier.
        </para>

        <para>
            Si une chaîne est utilisé comme paramètre du constructeur
            <classname>Zend_Search_Lucene</classname>, le lecteur
            (<classname>Zend_Search_Lucene</classname> object) le considère comme un chemin dans le
            système de fichier et instancie l'objet
            <classname>Zend_Search_Lucene_Storage_Directory_Filesystem</classname>.
        </para>

        <para>
            Vous pouvez définir votre propre implémentation de répertoire en étendant la classe
            <classname>Zend_Search_Lucene_Storage_Directory</classname>.
        </para>

        <para>
            Les méthodes de<classname>Zend_Search_Lucene_Storage_Directory</classname>&#160;:
        </para>

        <programlisting language="php"><![CDATA[
abstract class Zend_Search_Lucene_Storage_Directory {
/**
 * Ferme le stockage.
 *
 * @return void
 */
abstract function close();
/**
 * Crée un nouveau fichier vide dans le répertoire dont le nom est $filename.
 *
 * @param string $name
 * @return void
 */
abstract function createFile($filename);
/**
 * Supprime un fichier existant du répertoire.
 *
 * @param string $filename
 * @return void
 */
abstract function deleteFile($filename);
/**
 * Retourne true si un fichier portant le nom donné existe.
 *
 * @param string $filename
 * @return boolean
 */
abstract function fileExists($filename);
/**
 * Retourne la taille d'un $filename dans le répertoire.
 *
 * @param string $filename
 * @return integer
 */
abstract function fileLength($filename);
/**
 * Retourne le timestamp UNIX de la date de modification de $filename.
 *
 * @param string $filename
 * @return integer
 */
abstract function fileModified($filename);
/**
 * Renomme un fichier existant dans le répertoire.
 *
 * @param string $from
 * @param string $to
 * @return void
 */
abstract function renameFile($from, $to);
/**
 * Définit la date de modification de $filename à la date de maintenant.
 *
 * @param string $filename
 * @return void
 */
abstract function touchFile($filename);
/**
 * Retourne un objet Zend_Search_Lucene_Storage_File object pour un $filename
 * donné dans le répertoire
 *
 * @param string $filename
 * @return Zend_Search_Lucene_Storage_File
 */
abstract function getFileObject($filename);
}
]]></programlisting>

        <para>
            La méthode <methodname>getFileObject($filename)</methodname> de l'instance
            <classname>Zend_Search_Lucene_Storage_Directory</classname> retourne un objet
            <classname>Zend_Search_Lucene_Storage_File</classname>.
        </para>

        <para>
            La classe abstraite <classname>Zend_Search_Lucene_Storage_File</classname> implémente
            l'abstraction de fichiers et les primitives de lecture de fichier d'index.
        </para>

        <para>
            Vous devez aussi étendre <classname>Zend_Search_Lucene_Storage_File</classname> dans
            votre implémentation de répertoire.
        </para>

        <para>
            Seulement deux méthodes de <classname>Zend_Search_Lucene_Storage_File</classname>
            doivent être surchargées dans votre implémentation :
        </para>

        <programlisting language="php"><![CDATA[
class MyFile extends Zend_Search_Lucene_Storage_File {
    /**
     * Définit l'indicateur de position du fichier and avance le pointeur
     * de fichier.
     * La nouvelle position, calculé en octets depuis le début du fichier,
     * est obtenu en ajoutant l'offset à la position spécifiée par $whence,
     * dont les valeurs sont définit comme suit :
     * SEEK_SET - Définit la position comme égale aux octets de l'offset.
     * SEEK_CUR - Définit la position à la position courante plus l'offset.
     * SEEK_END - Définit la position à la fin du fichier plus l'offset.
     *(Pour déplacer à une position avant la fin du fichier, vous devrez passer
     * une valeur négative à l'offset.)
     * En cas de succès, retourne 0; sinon, retourne -1
     *
     * @param integer $offset
     * @param integer $whence
     * @return integer
     */
    public function seek($offset, $whence=SEEK_SET) {
        ...
    }
    /**
     * Lit $length octets dans le fichier et avance le pointeur de fichier.
     *
     * @param integer $length
     * @return string
     */
    protected function _fread($length=1) {
        ...
    }
}
]]></programlisting>
    </sect2>
</sect1>