source: git/factory/facFqFactorize.cc @ fce807

spielwiese
Last change on this file since fce807 was fce807, checked in by Martin Lee <martinlee84@…>, 12 years ago
chg: changes due to changes to getLeadingCoeffs
  • Property mode set to 100644
File size: 76.7 KB
Line 
1/*****************************************************************************\
2 * Computer Algebra System SINGULAR
3\*****************************************************************************/
4/** @file facFqFactorize.cc
5 *
6 * This file implements functions for factoring a multivariate polynomial over
7 * a finite field.
8 *
9 * ABSTRACT: "Efficient Multivariate Factorization over Finite Fields" by
10 * L. Bernardin & M. Monagon. Precomputation of leading coefficients is
11 * described in "Sparse Hensel lifting" by E. Kaltofen
12 *
13 * @author Martin Lee
14 *
15 **/
16/*****************************************************************************/
17
18#include "config.h"
19
20#include "cf_assert.h"
21#include "debug.h"
22#include "timing.h"
23
24#include "facFqFactorizeUtil.h"
25#include "facFqFactorize.h"
26#include "cf_random.h"
27#include "facHensel.h"
28#include "cf_gcd_smallp.h"
29#include "cf_map_ext.h"
30#include "algext.h"
31#include "facSparseHensel.h"
32#include "facMul.h"
33
34#ifdef HAVE_NTL
35#include "NTLconvert.h"
36
37TIMING_DEFINE_PRINT(fac_fq_bi_factorizer)
38TIMING_DEFINE_PRINT(fac_fq_hensel_lift)
39TIMING_DEFINE_PRINT(fac_fq_factor_recombination)
40
41static inline
42CanonicalForm
43listGCD (const CFList& L);
44
45static inline
46CanonicalForm
47myContent (const CanonicalForm& F)
48{
49  Variable x= Variable (1);
50  CanonicalForm G= swapvar (F, F.mvar(), x);
51  CFList L;
52  for (CFIterator i= G; i.hasTerms(); i++)
53    L.append (i.coeff());
54  if (L.length() == 2)
55    return swapvar (gcd (L.getFirst(), L.getLast()), F.mvar(), x);
56  if (L.length() == 1)
57    return LC (F, x);
58  return swapvar (listGCD (L), F.mvar(), x);
59}
60
61static inline
62CanonicalForm
63listGCD (const CFList& L)
64{
65  if (L.length() == 1)
66    return L.getFirst();
67  if (L.length() == 2)
68    return gcd (L.getFirst(), L.getLast());
69  else
70  {
71    CFList lHi, lLo;
72    CanonicalForm resultHi, resultLo;
73    int length= L.length()/2;
74    int j= 0;
75    for (CFListIterator i= L; j < length; i++, j++)
76      lHi.append (i.getItem());
77    lLo= Difference (L, lHi);
78    resultHi= listGCD (lHi);
79    resultLo= listGCD (lLo);
80    if (resultHi.isOne() || resultLo.isOne())
81      return 1;
82    return gcd (resultHi, resultLo);
83  }
84}
85
86static inline
87CanonicalForm
88myContent (const CanonicalForm& F, const Variable& x)
89{
90  if (degree (F, x) <= 0)
91    return 1;
92  CanonicalForm G= F;
93  bool swap= false;
94  if (x != F.mvar())
95  {
96    swap= true;
97    G= swapvar (F, x, F.mvar());
98  }
99  CFList L;
100  Variable alpha;
101  for (CFIterator i= G; i.hasTerms(); i++)
102    L.append (i.coeff());
103  if (L.length() == 2)
104  {
105    if (swap)
106      return swapvar (gcd (L.getFirst(), L.getLast()), F.mvar(), x);
107    else
108      return gcd (L.getFirst(), L.getLast());
109  }
110  if (L.length() == 1)
111  {
112    return LC (F, x);
113  }
114  if (swap)
115    return swapvar (listGCD (L), F.mvar(), x);
116  else
117    return listGCD (L);
118}
119
120CanonicalForm myCompress (const CanonicalForm& F, CFMap& N)
121{
122  int n= F.level();
123  int * degsf= new int [n + 1];
124  int ** swap;
125  swap= new int* [n + 1];
126  for (int i= 0; i <= n; i++)
127  {
128    degsf[i]= 0;
129    swap [i]= new int [2];
130    swap [i] [0]= 0;
131    swap [i] [1]= 0;
132  }
133  int i= 1;
134  n= 1;
135  degsf= degrees (F, degsf);
136
137  CanonicalForm result= F;
138  while ( i <= F.level() )
139  {
140    while( degsf[i] == 0 ) i++;
141    swap[n][0]= i;
142    swap[n][1]= size (LC (F,i));
143    if (i != n)
144      result= swapvar (result, Variable (n), Variable(i));
145    n++; i++;
146  }
147
148  int buf1, buf2;
149  n--;
150
151  for (i= 1; i < n; i++)
152  {
153    for (int j= 1; j < n - i + 1; j++)
154    {
155      if (swap[j][1] > swap[j + 1][1])
156      {
157        buf1= swap [j + 1] [0];
158        buf2= swap [j + 1] [1];
159        swap[j + 1] [0]= swap[j] [0];
160        swap[j + 1] [1]= swap[j] [1];
161        swap[j][0]= buf1;
162        swap[j][1]= buf2;
163        result= swapvar (result, Variable (j + 1), Variable (j));
164      }
165    }
166  }
167
168  for (i= n; i > 0; i--)
169  {
170    if (i != swap[i] [0])
171      N.newpair (Variable (i), Variable (swap[i] [0]));
172  }
173
174  for (i= 0; i <= n; i++)
175    delete [] swap[i];
176  delete [] swap;
177
178  delete [] degsf;
179
180  return result;
181}
182
183CFList
184extFactorRecombination (const CFList& factors, const CanonicalForm& F,
185                        const CFList& M, const ExtensionInfo& info,
186                        const CFList& evaluation)
187{
188  Variable alpha= info.getAlpha();
189  Variable beta= info.getBeta();
190  CanonicalForm gamma= info.getGamma();
191  CanonicalForm delta= info.getDelta();
192  int k= info.getGFDegree();
193  CFList source, dest;
194  if (factors.length() == 1)
195  {
196    CanonicalForm buf= reverseShift (F, evaluation);
197    return CFList (mapDown (buf, info, source, dest));
198  }
199  if (factors.length() < 1)
200    return CFList();
201
202  int degMipoBeta= 1;
203  if (!k && beta.level() != 1)
204    degMipoBeta= degree (getMipo (beta));
205
206  CFList T, S;
207  T= factors;
208
209  int s= 1;
210  CFList result;
211  CanonicalForm buf;
212
213  buf= F;
214
215  Variable x= Variable (1);
216  CanonicalForm g, LCBuf= LC (buf, x);
217  CanonicalForm buf2, quot;
218  int * v= new int [T.length()];
219  for (int i= 0; i < T.length(); i++)
220    v[i]= 0;
221  bool noSubset= false;
222  CFArray TT;
223  TT= copy (factors);
224  bool recombination= false;
225  bool trueFactor= false;
226  while (T.length() >= 2*s)
227  {
228    while (noSubset == false)
229    {
230      if (T.length() == s)
231      {
232        delete [] v;
233        if (recombination)
234        {
235          T.insert (LCBuf);
236          g= prodMod (T, M);
237          T.removeFirst();
238          result.append (g/myContent (g));
239          g= reverseShift (g, evaluation);
240          g /= Lc (g);
241          appendTestMapDown (result, g, info, source, dest);
242          return result;
243        }
244        else
245        {
246          buf= reverseShift (buf, evaluation);
247          return CFList (buf);
248        }
249      }
250
251      S= subset (v, s, TT, noSubset);
252      if (noSubset) break;
253
254      S.insert (LCBuf);
255      g= prodMod (S, M);
256      S.removeFirst();
257      g /= myContent (g);
258      if (fdivides (g, buf, quot))
259      {
260        buf2= reverseShift (g, evaluation);
261        buf2 /= Lc (buf2);
262        if (!k && beta == x)
263        {
264          if (degree (buf2, alpha) < degMipoBeta)
265          {
266            appendTestMapDown (result, buf2, info, source, dest);
267            buf= quot;
268            LCBuf= LC (buf, x);
269            recombination= true;
270            trueFactor= true;
271          }
272        }
273        else
274        {
275          if (!isInExtension (buf2, gamma, k, delta, source, dest))
276          {
277            appendTestMapDown (result, buf2, info, source, dest);
278            buf /= g;
279            LCBuf= LC (buf, x);
280            recombination= true;
281            trueFactor= true;
282          }
283        }
284
285        if (trueFactor)
286        {
287          T= Difference (T, S);
288
289          if (T.length() < 2*s || T.length() == s)
290          {
291            buf= reverseShift (buf, evaluation);
292            buf /= Lc (buf);
293            appendTestMapDown (result, buf, info, source, dest);
294            delete [] v;
295            return result;
296          }
297          trueFactor= false;
298          TT= copy (T);
299          indexUpdate (v, s, T.length(), noSubset);
300          if (noSubset) break;
301        }
302      }
303    }
304    s++;
305    if (T.length() < 2*s || T.length() == s)
306    {
307      buf= reverseShift (buf, evaluation);
308      appendTestMapDown (result, buf, info, source, dest);
309      delete [] v;
310      return result;
311    }
312    for (int i= 0; i < T.length(); i++)
313      v[i]= 0;
314    noSubset= false;
315  }
316  if (T.length() < 2*s)
317  {
318    buf= reverseShift (F, evaluation);
319    appendMapDown (result, buf, info, source, dest);
320  }
321
322  delete [] v;
323  return result;
324}
325
326CFList
327factorRecombination (const CanonicalForm& F, const CFList& factors,
328                     const CFList& M)
329{
330  if (factors.length() == 1)
331    return CFList(F);
332  if (factors.length() < 1)
333    return CFList();
334
335  CFList T, S;
336
337  T= factors;
338
339  int s= 1;
340  CFList result;
341  CanonicalForm LCBuf= LC (F, Variable (1));
342  CanonicalForm g, buf= F;
343  int * v= new int [T.length()];
344  for (int i= 0; i < T.length(); i++)
345    v[i]= 0;
346  bool noSubset= false;
347  CFArray TT;
348  TT= copy (factors);
349  Variable y= F.level() - 1;
350  bool recombination= false;
351  CanonicalForm h, quot;
352  while (T.length() >= 2*s)
353  {
354    while (noSubset == false)
355    {
356      if (T.length() == s)
357      {
358        delete [] v;
359        if (recombination)
360        {
361          T.insert (LC (buf));
362          g= prodMod (T, M);
363          result.append (g/myContent (g));
364          return result;
365        }
366        else
367          return CFList (F);
368      }
369      S= subset (v, s, TT, noSubset);
370      if (noSubset) break;
371      S.insert (LCBuf);
372      g= prodMod (S, M);
373      S.removeFirst();
374      g /= myContent (g);
375      if (fdivides (g, buf, quot))
376      {
377        recombination= true;
378        result.append (g);
379        buf= quot;
380        LCBuf= LC (buf, Variable(1));
381        T= Difference (T, S);
382        if (T.length() < 2*s || T.length() == s)
383        {
384          result.append (buf);
385          delete [] v;
386          return result;
387        }
388        TT= copy (T);
389        indexUpdate (v, s, T.length(), noSubset);
390        if (noSubset) break;
391      }
392    }
393    s++;
394    if (T.length() < 2*s || T.length() == s)
395    {
396      result.append (buf);
397      delete [] v;
398      return result;
399    }
400    for (int i= 0; i < T.length(); i++)
401      v[i]= 0;
402    noSubset= false;
403  }
404  if (T.length() < 2*s)
405    result.append (F);
406
407  delete [] v;
408  return result;
409}
410
411int
412liftBoundAdaption (const CanonicalForm& F, const CFList& factors, bool&
413                   success, const int deg, const CFList& MOD, const int bound)
414{
415  int adaptedLiftBound= 0;
416  CanonicalForm buf= F;
417  Variable y= F.mvar();
418  Variable x= Variable (1);
419  CanonicalForm LCBuf= LC (buf, x);
420  CanonicalForm g, quot;
421  CFList M= MOD;
422  M.append (power (y, deg));
423  int d= bound;
424  int e= 0;
425  int nBuf;
426  for (CFListIterator i= factors; i.hasItem(); i++)
427  {
428    g= mulMod (i.getItem(), LCBuf, M);
429    g /= myContent (g);
430    if (fdivides (g, buf, quot))
431    {
432      nBuf= degree (g, y) + degree (LC (g, 1), y);
433      d -= nBuf;
434      e= tmax (e, nBuf);
435      buf= quot;
436      LCBuf= LC (buf, x);
437    }
438  }
439  adaptedLiftBound= d;
440
441  if (adaptedLiftBound < deg)
442  {
443    if (adaptedLiftBound < degree (F) + 1)
444    {
445      if (d == 1)
446      {
447        if (e + 1 > deg)
448        {
449          adaptedLiftBound= deg;
450          success= false;
451        }
452        else
453        {
454          success= true;
455          if (e + 1 < degree (F) + 1)
456            adaptedLiftBound= deg;
457          else
458            adaptedLiftBound= e + 1;
459        }
460      }
461      else
462      {
463        success= true;
464        adaptedLiftBound= deg;
465      }
466    }
467    else
468    {
469      success= true;
470    }
471  }
472  return adaptedLiftBound;
473}
474
475int
476extLiftBoundAdaption (const CanonicalForm& F, const CFList& factors, bool&
477                      success, const ExtensionInfo& info, const CFList& eval,
478                      const int deg, const CFList& MOD, const int bound)
479{
480  Variable alpha= info.getAlpha();
481  Variable beta= info.getBeta();
482  CanonicalForm gamma= info.getGamma();
483  CanonicalForm delta= info.getDelta();
484  int k= info.getGFDegree();
485  int adaptedLiftBound= 0;
486  CanonicalForm buf= F;
487  Variable y= F.mvar();
488  Variable x= Variable (1);
489  CanonicalForm LCBuf= LC (buf, x);
490  CanonicalForm g, gg, quot;
491  CFList M= MOD;
492  M.append (power (y, deg));
493  adaptedLiftBound= 0;
494  int d= bound;
495  int e= 0;
496  int nBuf;
497  int degMipoBeta= 1;
498  if (!k && beta.level() != 1)
499    degMipoBeta= degree (getMipo (beta));
500
501  CFList source, dest;
502  for (CFListIterator i= factors; i.hasItem(); i++)
503  {
504    g= mulMod (i.getItem(), LCBuf, M);
505    g /= myContent (g);
506    if (fdivides (g, buf, quot))
507    {
508      gg= reverseShift (g, eval);
509      gg /= Lc (gg);
510      if (!k && beta == x)
511      {
512        if (degree (gg, alpha) < degMipoBeta)
513        {
514          buf= quot;
515          nBuf= degree (g, y) + degree (LC (g, x), y);
516          d -= nBuf;
517          e= tmax (e, nBuf);
518          LCBuf= LC (buf, x);
519        }
520      }
521      else
522      {
523        if (!isInExtension (gg, gamma, k, delta, source, dest))
524        {
525          buf= quot;
526          nBuf= degree (g, y) + degree (LC (g, x), y);
527          d -= nBuf;
528          e= tmax (e, nBuf);
529          LCBuf= LC (buf, x);
530        }
531      }
532    }
533  }
534  adaptedLiftBound= d;
535
536  if (adaptedLiftBound < deg)
537  {
538    if (adaptedLiftBound < degree (F) + 1)
539    {
540      if (d == 1)
541      {
542        if (e + 1 > deg)
543        {
544          adaptedLiftBound= deg;
545          success= false;
546        }
547        else
548        {
549          success= true;
550          if (e + 1 < degree (F) + 1)
551            adaptedLiftBound= deg;
552          else
553            adaptedLiftBound= e + 1;
554        }
555      }
556      else
557      {
558        success= true;
559        adaptedLiftBound= deg;
560      }
561    }
562    else
563    {
564      success= true;
565    }
566  }
567
568  return adaptedLiftBound;
569}
570
571CFList
572earlyFactorDetect (CanonicalForm& F, CFList& factors, int& adaptedLiftBound,
573                   bool& success, const int deg, const CFList& MOD,
574                   const int bound)
575{
576  CFList result;
577  CFList T= factors;
578  CanonicalForm buf= F;
579  Variable y= F.mvar();
580  Variable x= Variable (1);
581  CanonicalForm LCBuf= LC (buf, x);
582  CanonicalForm g, quot;
583  CFList M= MOD;
584  M.append (power (y, deg));
585  adaptedLiftBound= 0;
586  int d= bound;
587  int e= 0;
588  int nBuf;
589  for (CFListIterator i= factors; i.hasItem(); i++)
590  {
591    g= mulMod (i.getItem(), LCBuf, M);
592    g /= myContent (g);
593    if (fdivides (g, buf, quot))
594    {
595      result.append (g);
596      nBuf= degree (g, y) + degree (LC (g, x), y);
597      d -= nBuf;
598      e= tmax (e, nBuf);
599      buf= quot;
600      LCBuf= LC (buf, x);
601      T= Difference (T, CFList (i.getItem()));
602    }
603  }
604  adaptedLiftBound= d;
605
606  if (adaptedLiftBound < deg)
607  {
608    if (adaptedLiftBound < degree (F) + 1)
609    {
610      if (d == 1)
611        adaptedLiftBound= tmin (e + 1, deg);
612      else
613        adaptedLiftBound= deg;
614    }
615    factors= T;
616    F= buf;
617    success= true;
618  }
619  return result;
620}
621
622CFList
623extEarlyFactorDetect (CanonicalForm& F, CFList& factors, int& adaptedLiftBound,
624                      bool& success, const ExtensionInfo& info, const CFList&
625                      eval, const int deg, const CFList& MOD, const int bound)
626{
627  Variable alpha= info.getAlpha();
628  Variable beta= info.getBeta();
629  CanonicalForm gamma= info.getGamma();
630  CanonicalForm delta= info.getDelta();
631  int k= info.getGFDegree();
632  CFList result;
633  CFList T= factors;
634  CanonicalForm buf= F;
635  Variable y= F.mvar();
636  Variable x= Variable (1);
637  CanonicalForm LCBuf= LC (buf, x);
638  CanonicalForm g, gg, quot;
639  CFList M= MOD;
640  M.append (power (y, deg));
641  adaptedLiftBound= 0;
642  int d= bound;
643  int e= 0;
644  int nBuf;
645  CFList source, dest;
646
647  int degMipoBeta= 1;
648  if (!k && beta.level() != 1)
649    degMipoBeta= degree (getMipo (beta));
650
651  for (CFListIterator i= factors; i.hasItem(); i++)
652  {
653    g= mulMod (i.getItem(), LCBuf, M);
654    g /= myContent (g);
655    if (fdivides (g, buf, quot))
656    {
657      gg= reverseShift (g, eval);
658      gg /= Lc (gg);
659      if (!k && beta == x)
660      {
661        if (degree (gg, alpha) < degMipoBeta)
662        {
663          appendTestMapDown (result, gg, info, source, dest);
664          buf= quot;
665          nBuf= degree (g, y) + degree (LC (g, x), y);
666          d -= nBuf;
667          e= tmax (e, nBuf);
668          LCBuf= LC (buf, x);
669          T= Difference (T, CFList (i.getItem()));
670        }
671      }
672      else
673      {
674        if (!isInExtension (gg, gamma, k, delta, source, dest))
675        {
676          appendTestMapDown (result, gg, info, source, dest);
677          buf= quot;
678          nBuf= degree (g, y) + degree (LC (g, x), y);
679          d -= nBuf;
680          e= tmax (e, nBuf);
681          LCBuf= LC (buf, x);
682          T= Difference (T, CFList (i.getItem()));
683         }
684      }
685    }
686  }
687  adaptedLiftBound= d;
688
689  if (adaptedLiftBound < deg)
690  {
691    if (adaptedLiftBound < degree (F) + 1)
692    {
693      if (d == 1)
694        adaptedLiftBound= tmin (e + 1, deg);
695      else
696        adaptedLiftBound= deg;
697    }
698    success= true;
699    factors= T;
700    F= buf;
701  }
702  return result;
703}
704
705CFList
706evalPoints (const CanonicalForm& F, CFList & eval, const Variable& alpha,
707            CFList& list, const bool& GF, bool& fail)
708{
709  int k= F.level() - 1;
710  Variable x= Variable (1);
711  CFList result;
712  FFRandom genFF;
713  GFRandom genGF;
714  int p= getCharacteristic ();
715  double bound;
716  if (alpha != x)
717  {
718    bound= pow ((double) p, (double) degree (getMipo(alpha)));
719    bound= pow ((double) bound, (double) k);
720  }
721  else if (GF)
722  {
723    bound= pow ((double) p, (double) getGFDegree());
724    bound= pow ((double) bound, (double) k);
725  }
726  else
727    bound= pow ((double) p, (double) k);
728
729  CanonicalForm random;
730  CanonicalForm deriv_x, gcd_deriv;
731  do
732  {
733    random= 0;
734    // possible overflow if list.length() does not fit into a int
735    if (list.length() >= bound)
736    {
737      fail= true;
738      break;
739    }
740    for (int i= 0; i < k; i++)
741    {
742      if (list.isEmpty())
743        result.append (0);
744      else if (GF)
745      {
746        result.append (genGF.generate());
747        random += result.getLast()*power (x, i);
748      }
749      else if (alpha.level() != 1)
750      {
751        AlgExtRandomF genAlgExt (alpha);
752        result.append (genAlgExt.generate());
753        random += result.getLast()*power (x, i);
754      }
755      else
756      {
757        result.append (genFF.generate());
758        random += result.getLast()*power (x, i);
759      }
760    }
761    if (find (list, random))
762    {
763      result= CFList();
764      continue;
765    }
766    int l= F.level();
767    eval.insert (F);
768    bool bad= false;
769    for (CFListIterator i= result; i.hasItem(); i++, l--)
770    {
771      eval.insert (eval.getFirst()(i.getItem(), l));
772      if (degree (eval.getFirst(), l - 1) != degree (F, l - 1))
773      {
774        if (!find (list, random))
775          list.append (random);
776        result= CFList();
777        eval= CFList();
778        bad= true;
779        break;
780      }
781    }
782
783    if (bad)
784      continue;
785
786    if (degree (eval.getFirst()) != degree (F, 1))
787    {
788      if (!find (list, random))
789        list.append (random);
790      result= CFList();
791      eval= CFList();
792      continue;
793    }
794
795    deriv_x= deriv (eval.getFirst(), x);
796    gcd_deriv= gcd (eval.getFirst(), deriv_x);
797    if (degree (gcd_deriv) > 0)
798    {
799      if (!find (list, random))
800        list.append (random);
801      result= CFList();
802      eval= CFList();
803      continue;
804    }
805    CFListIterator i= eval;
806    i++;
807    CanonicalForm contentx= content (i.getItem(), x);
808    if (degree (contentx) > 0)
809    {
810      if (!find (list, random))
811        list.append (random);
812      result= CFList();
813      eval= CFList();
814      continue;
815    }
816
817    if (list.length() >= bound)
818    {
819      fail= true;
820      break;
821    }
822  } while (find (list, random));
823
824  if (!eval.isEmpty())
825    eval.removeFirst();
826
827  return result;
828}
829
830static inline
831int newMainVariableSearch (CanonicalForm& A, CFList& Aeval, CFList&
832                           evaluation, const Variable& alpha, const int lev,
833                           CanonicalForm& g
834                          )
835{
836  Variable x= Variable (1);
837  CanonicalForm derivI, buf;
838  bool GF= (CFFactory::gettype() == GaloisFieldDomain);
839  int swapLevel= 0;
840  CFList list;
841  bool fail= false;
842  buf= A;
843  Aeval= CFList();
844  evaluation= CFList();
845  for (int i= lev; i <= A.level(); i++)
846  {
847    derivI= deriv (buf, Variable (i));
848    if (!derivI.isZero())
849    {
850      g= gcd (buf, derivI);
851      if (degree (g) > 0)
852        return -1;
853
854      buf= swapvar (buf, x, Variable (i));
855      Aeval= CFList();
856      evaluation= CFList();
857      fail= false;
858      evaluation= evalPoints (buf, Aeval, alpha, list, GF, fail);
859      if (!fail)
860      {
861        A= buf;
862        swapLevel= i;
863        break;
864      }
865      else
866        buf= A;
867    }
868  }
869  return swapLevel;
870}
871
872CanonicalForm lcmContent (const CanonicalForm& A, CFList& contentAi)
873{
874  int i= A.level();
875  contentAi.append (myContent (A, i));
876  contentAi.append (myContent (A, i - 1));
877  CanonicalForm result= lcm (contentAi.getFirst(), contentAi.getLast());
878  for (i= i - 2; i > 0; i--)
879  {
880    contentAi.append (content (A, i));
881    result= lcm (result, contentAi.getLast());
882  }
883  return result;
884}
885
886CFList
887henselLiftAndEarly (CanonicalForm& A, CFList& MOD, int*& liftBounds, bool&
888                    earlySuccess, CFList& earlyFactors, const CFList& Aeval,
889                    const CFList& biFactors, const CFList& evaluation,
890                    const ExtensionInfo& info)
891{
892  bool extension= info.isInExtension();
893  CFList bufFactors= biFactors;
894  bufFactors.insert (LC (Aeval.getFirst(), 1));
895
896  sortList (bufFactors, Variable (1));
897
898  CFList diophant;
899  CFArray Pi;
900  int smallFactorDeg= 11; //tunable parameter
901  CFList result;
902  int adaptedLiftBound= 0;
903  int liftBound= liftBounds[1];
904
905  earlySuccess= false;
906  CFList earlyReconstFactors;
907  CFListIterator j= Aeval;
908  j++;
909  CanonicalForm buf= j.getItem();
910  CFMatrix Mat= CFMatrix (liftBound, bufFactors.length() - 1);
911  MOD= CFList (power (Variable (2), liftBounds[0]));
912  if (smallFactorDeg >= liftBound)
913  {
914    result= henselLift23 (Aeval, bufFactors, liftBounds, diophant, Pi, Mat);
915  }
916  else if (smallFactorDeg >= degree (buf) + 1)
917  {
918    liftBounds[1]= degree (buf) + 1;
919    result= henselLift23 (Aeval, bufFactors, liftBounds, diophant, Pi, Mat);
920    if (Aeval.length() == 2)
921    {
922      if (!extension)
923        earlyFactors= earlyFactorDetect
924                       (buf, result, adaptedLiftBound, earlySuccess,
925                        degree (buf) + 1, MOD, liftBound);
926      else
927        earlyFactors= extEarlyFactorDetect
928                       (buf, result, adaptedLiftBound, earlySuccess,
929                        info, evaluation, degree
930                        (buf) + 1, MOD, liftBound);
931    }
932    else
933    {
934      if (!extension)
935        adaptedLiftBound= liftBoundAdaption (buf, result, earlySuccess,
936                                             degree (buf) + 1, MOD, liftBound);
937      else
938        adaptedLiftBound= extLiftBoundAdaption (buf, result, earlySuccess, info,
939                                                evaluation, degree (buf) + 1,
940                                                MOD, liftBound);
941    }
942    if (!earlySuccess)
943    {
944      result.insert (LC (buf, 1));
945      liftBounds[1]= adaptedLiftBound;
946      liftBound= adaptedLiftBound;
947      henselLiftResume (buf, result, degree (buf) + 1, liftBound,
948                        Pi, diophant, Mat, MOD);
949    }
950    else
951      liftBounds[1]= adaptedLiftBound;
952  }
953  else if (smallFactorDeg < degree (buf) + 1)
954  {
955    liftBounds[1]= smallFactorDeg;
956    result= henselLift23 (Aeval, bufFactors, liftBounds, diophant, Pi, Mat);
957    if (Aeval.length() == 2)
958    {
959      if (!extension)
960        earlyFactors= earlyFactorDetect (buf, result, adaptedLiftBound,
961                                         earlySuccess, smallFactorDeg, MOD,
962                                         liftBound);
963      else
964        earlyFactors= extEarlyFactorDetect (buf, result, adaptedLiftBound,
965                                            earlySuccess, info, evaluation,
966                                            smallFactorDeg, MOD, liftBound);
967    }
968    else
969    {
970      if (!extension)
971        adaptedLiftBound= liftBoundAdaption (buf, result, earlySuccess,
972                                             smallFactorDeg, MOD, liftBound);
973      else
974        adaptedLiftBound= extLiftBoundAdaption (buf, result, earlySuccess, info,
975                                                evaluation, smallFactorDeg, MOD,
976                                                liftBound);
977    }
978
979    if (!earlySuccess)
980    {
981      result.insert (LC (buf, 1));
982      henselLiftResume (buf, result, smallFactorDeg, degree (buf) + 1,
983                        Pi, diophant, Mat, MOD);
984      if (Aeval.length() == 2)
985      {
986         if (!extension)
987           earlyFactors= earlyFactorDetect (buf, result, adaptedLiftBound,
988                                            earlySuccess, degree (buf) + 1,
989                                            MOD, liftBound);
990         else
991           earlyFactors= extEarlyFactorDetect (buf, result, adaptedLiftBound,
992                                               earlySuccess, info, evaluation,
993                                               degree (buf) + 1, MOD,
994                                               liftBound);
995      }
996      else
997      {
998        if (!extension)
999          adaptedLiftBound= liftBoundAdaption (buf, result, earlySuccess,
1000                                               degree (buf) + 1, MOD,liftBound);
1001        else
1002          adaptedLiftBound= extLiftBoundAdaption (buf, result, earlySuccess,
1003                                                  info, evaluation,
1004                                                  degree (buf) + 1, MOD,
1005                                                  liftBound);
1006      }
1007      if (!earlySuccess)
1008      {
1009        result.insert (LC (buf, 1));
1010        liftBounds[1]= adaptedLiftBound;
1011        liftBound= adaptedLiftBound;
1012        henselLiftResume (buf, result, degree (buf) + 1, liftBound,
1013                          Pi, diophant, Mat, MOD);
1014      }
1015      else
1016        liftBounds[1]= adaptedLiftBound;
1017    }
1018    else
1019      liftBounds[1]= adaptedLiftBound;
1020  }
1021
1022  MOD.append (power (Variable (3), liftBounds[1]));
1023
1024  if (Aeval.length() > 2)
1025  {
1026    CFListIterator j= Aeval;
1027    j++;
1028    CFList bufEval;
1029    bufEval.append (j.getItem());
1030    j++;
1031    int liftBoundsLength= Aeval.getLast().level() - 1;
1032    for (int i= 2; i <= liftBoundsLength && j.hasItem(); i++, j++)
1033    {
1034      earlySuccess= false;
1035      result.insert (LC (bufEval.getFirst(), 1));
1036      bufEval.append (j.getItem());
1037      liftBound= liftBounds[i];
1038      Mat= CFMatrix (liftBounds[i], result.length() - 1);
1039
1040      buf= j.getItem();
1041      if (smallFactorDeg >= liftBound)
1042        result= henselLift (bufEval, result, MOD, diophant, Pi, Mat,
1043                            liftBounds[i -  1], liftBounds[i]);
1044      else if (smallFactorDeg >= degree (buf) + 1)
1045      {
1046        result= henselLift (bufEval, result, MOD, diophant, Pi, Mat,
1047                            liftBounds[i -  1], degree (buf) + 1);
1048
1049        if (Aeval.length() == i + 1)
1050        {
1051          if (!extension)
1052            earlyFactors= earlyFactorDetect
1053                           (buf, result, adaptedLiftBound, earlySuccess,
1054                            degree (buf) + 1, MOD, liftBound);
1055          else
1056            earlyFactors= extEarlyFactorDetect
1057                           (buf, result, adaptedLiftBound, earlySuccess,
1058                            info, evaluation, degree (buf) + 1, MOD, liftBound);
1059        }
1060        else
1061        {
1062          if (!extension)
1063            adaptedLiftBound= liftBoundAdaption
1064                                (buf, result, earlySuccess, degree (buf)
1065                                 + 1,  MOD, liftBound);
1066          else
1067            adaptedLiftBound= extLiftBoundAdaption
1068                                (buf, result, earlySuccess, info, evaluation,
1069                                 degree (buf) + 1, MOD, liftBound);
1070        }
1071
1072        if (!earlySuccess)
1073        {
1074          result.insert (LC (buf, 1));
1075          liftBounds[i]= adaptedLiftBound;
1076          liftBound= adaptedLiftBound;
1077          henselLiftResume (buf, result, degree (buf) + 1, liftBound,
1078                            Pi, diophant, Mat, MOD);
1079        }
1080        else
1081        {
1082          liftBounds[i]= adaptedLiftBound;
1083        }
1084      }
1085      else if (smallFactorDeg < degree (buf) + 1)
1086      {
1087        result= henselLift (bufEval, result, MOD, diophant, Pi, Mat,
1088                            liftBounds[i -  1], smallFactorDeg);
1089
1090        if (Aeval.length() == i + 1)
1091        {
1092          if (!extension)
1093            earlyFactors= earlyFactorDetect
1094                           (buf, result, adaptedLiftBound, earlySuccess,
1095                            smallFactorDeg, MOD, liftBound);
1096          else
1097            earlyFactors= extEarlyFactorDetect
1098                           (buf, result, adaptedLiftBound, earlySuccess,
1099                            info, evaluation, smallFactorDeg, MOD, liftBound);
1100        }
1101        else
1102        {
1103          if (!extension)
1104            adaptedLiftBound= liftBoundAdaption
1105                                (buf, result, earlySuccess,
1106                                 smallFactorDeg, MOD, liftBound);
1107          else
1108            adaptedLiftBound= extLiftBoundAdaption
1109                                (buf, result, earlySuccess, info, evaluation,
1110                                 smallFactorDeg, MOD, liftBound);
1111        }
1112
1113        if (!earlySuccess)
1114        {
1115          result.insert (LC (buf, 1));
1116          henselLiftResume (buf, result, smallFactorDeg,
1117                            degree (buf) + 1, Pi, diophant, Mat, MOD);
1118          if (Aeval.length() == i + 1)
1119          {
1120            if (!extension)
1121              earlyFactors= earlyFactorDetect
1122                             (buf, result, adaptedLiftBound, earlySuccess,
1123                              degree (buf) +  1,  MOD, liftBound);
1124            else
1125              earlyFactors= extEarlyFactorDetect
1126                             (buf, result, adaptedLiftBound, earlySuccess,
1127                              info, evaluation, degree (buf) + 1, MOD,
1128                              liftBound);
1129          }
1130          else
1131          {
1132            if (!extension)
1133              adaptedLiftBound= liftBoundAdaption
1134                                  (buf, result, earlySuccess, degree
1135                                   (buf) +  1,  MOD, liftBound);
1136            else
1137              adaptedLiftBound= extLiftBoundAdaption
1138                                  (buf, result, earlySuccess, info, evaluation,
1139                                   degree (buf) + 1,  MOD, liftBound);
1140          }
1141
1142          if (!earlySuccess)
1143          {
1144            result.insert (LC (buf, 1));
1145            liftBounds[i]= adaptedLiftBound;
1146            liftBound= adaptedLiftBound;
1147            henselLiftResume (buf, result, degree (buf) + 1, liftBound,
1148                              Pi, diophant, Mat, MOD);
1149          }
1150          else
1151            liftBounds[i]= adaptedLiftBound;
1152        }
1153        else
1154          liftBounds[i]= adaptedLiftBound;
1155      }
1156      MOD.append (power (Variable (i + 2), liftBounds[i]));
1157      bufEval.removeFirst();
1158    }
1159    bufFactors= result;
1160  }
1161  else
1162    bufFactors= result;
1163
1164  if (earlySuccess)
1165    A= buf;
1166  return result;
1167}
1168
1169void
1170gcdFreeBasis (CFFList& factors1, CFFList& factors2)
1171{
1172  CanonicalForm g;
1173  int k= factors1.length();
1174  int l= factors2.length();
1175  int n= 1;
1176  int m;
1177  CFFListIterator j;
1178  for (CFFListIterator i= factors1; (n < k && i.hasItem()); i++, n++)
1179  {
1180    m= 1;
1181    for (j= factors2; (m < l && j.hasItem()); j++, m++)
1182    {
1183      g= gcd (i.getItem().factor(), j.getItem().factor());
1184      if (degree (g,1) > 0)
1185      {
1186        j.getItem()= CFFactor (j.getItem().factor()/g, j.getItem().exp());
1187        i.getItem()= CFFactor (i.getItem().factor()/g, i.getItem().exp());
1188        factors1.append (CFFactor (g, i.getItem().exp()));
1189        factors2.append (CFFactor (g, j.getItem().exp()));
1190      }
1191    }
1192  }
1193}
1194
1195CFList
1196distributeContent (const CFList& L, const CFList* differentSecondVarFactors,
1197                   int length
1198                  )
1199{
1200  CFList l= L;
1201  CanonicalForm content= l.getFirst();
1202
1203  if (content.inCoeffDomain())
1204    return l;
1205
1206  if (l.length() == 1)
1207  {
1208    CFList result;
1209    for (int i= 0; i < length; i++)
1210    {
1211      if (differentSecondVarFactors[i].isEmpty())
1212        continue;
1213      if (result.isEmpty())
1214      {
1215        result= differentSecondVarFactors[i];
1216        for (CFListIterator iter= result; iter.hasItem(); iter++)
1217          content /= iter.getItem();
1218      }
1219      else
1220      {
1221        CFListIterator iter1= result;
1222        for (CFListIterator iter2= differentSecondVarFactors[i];iter2.hasItem();
1223             iter2++, iter1++)
1224        {
1225          iter1.getItem() *= iter2.getItem();
1226          content /= iter2.getItem();
1227        }
1228      }
1229    }
1230    result.insert (content);
1231    return result;
1232  }
1233
1234  Variable v;
1235  CFListIterator iter1, iter2;
1236  CanonicalForm tmp, g;
1237  CFList multiplier;
1238  for (int i= 0; i < length; i++)
1239  {
1240    if (differentSecondVarFactors[i].isEmpty())
1241      continue;
1242    iter1= l;
1243    iter1++;
1244
1245    v= Variable (i + 3);
1246    tmp= 1;
1247    for (iter2= differentSecondVarFactors[i]; iter2.hasItem();
1248         iter2++, iter1++)
1249    {
1250      if (degree (iter2.getItem(),v) == degree (iter1.getItem(),v))
1251      {
1252        multiplier.append (1);
1253        continue;
1254      }
1255      g= gcd (iter2.getItem(), content);
1256      if (!g.inCoeffDomain())
1257      {
1258        tmp *= g;
1259        multiplier.append (g);
1260      }
1261      else
1262        multiplier.append (1);
1263    }
1264    if (!tmp.isOne() && fdivides (tmp, content))
1265    {
1266      iter1= l;
1267      iter1++;
1268      content /= tmp;
1269      for (iter2= multiplier; iter2.hasItem(); iter1++, iter2++)
1270        iter1.getItem() *= iter2.getItem();
1271    }
1272    multiplier= CFList();
1273  }
1274
1275  l.removeFirst();
1276  l.insert (content);
1277  return l;
1278}
1279
1280CFList evaluateAtZero (const CanonicalForm& F)
1281{
1282  CFList result;
1283  CanonicalForm buf= F;
1284  result.insert (buf);
1285  for (int i= F.level(); i > 2; i--)
1286  {
1287    buf= buf (0, i);
1288    result.insert (buf);
1289  }
1290  return result;
1291}
1292
1293CFList evaluateAtEval (const CanonicalForm& F, const CFArray& eval)
1294{
1295  CFList result;
1296  CanonicalForm buf= F;
1297  result.insert (buf);
1298  int k= eval.size();
1299  for (int i= 1; i < k; i++)
1300  {
1301    buf= buf (eval[i], i + 2);
1302    result.insert (buf);
1303  }
1304  return result;
1305}
1306
1307CFList evaluateAtEval (const CanonicalForm& F, const CFList& evaluation, int l)
1308{
1309  CFList result;
1310  CanonicalForm buf= F;
1311  result.insert (buf);
1312  int k= evaluation.length() + l - 1;
1313  CFListIterator j= evaluation;
1314  for (int i= k; j.hasItem() && i > l; i--, j++)
1315  {
1316    if (F.level() < i)
1317      continue;
1318    buf= buf (j.getItem(), i);
1319    result.insert (buf);
1320  }
1321  return result;
1322}
1323
1324int
1325testFactors (const CanonicalForm& G, const CFList& uniFactors,
1326             const Variable& alpha, CanonicalForm& sqrfPartF, CFList& factors,
1327             CFFList*& bufSqrfFactors, CFList& evalSqrfPartF,
1328             const CFArray& evalPoint)
1329{
1330  CanonicalForm tmp;
1331  CFListIterator j;
1332  for (CFListIterator i= uniFactors; i.hasItem(); i++)
1333  {
1334    tmp= i.getItem();
1335    if (i.hasItem())
1336      i++;
1337    else
1338      break;
1339    for (j= i; j.hasItem(); j++)
1340    {
1341      if (tmp == j.getItem())
1342        return 0;
1343    }
1344  }
1345
1346  CanonicalForm F= G;
1347  CFFList sqrfFactorization= squarefreeFactorization (F, alpha);
1348
1349  sqrfPartF= 1;
1350  for (CFFListIterator i= sqrfFactorization; i.hasItem(); i++)
1351    sqrfPartF *= i.getItem().factor();
1352
1353  evalSqrfPartF= evaluateAtEval (sqrfPartF, evalPoint);
1354
1355  CanonicalForm test= evalSqrfPartF.getFirst() (evalPoint[0], 2);
1356
1357  if (degree (test) != degree (sqrfPartF, 1))
1358    return 0;
1359
1360  CFFList sqrfFactors;
1361  CFList tmp2;
1362  int k= 0;
1363  factors= uniFactors;
1364  CFFListIterator iter;
1365  for (CFListIterator i= factors; i.hasItem(); i++, k++)
1366  {
1367    tmp= 1;
1368    sqrfFactors= squarefreeFactorization (i.getItem(), alpha);
1369
1370    for (iter= sqrfFactors; iter.hasItem(); iter++)
1371    {
1372      tmp2.append (iter.getItem().factor());
1373      tmp *= iter.getItem().factor();
1374    }
1375    i.getItem()= tmp/Lc(tmp);
1376    bufSqrfFactors [k]= sqrfFactors;
1377  }
1378
1379  for (int i= 0; i < factors.length() - 1; i++)
1380  {
1381    for (k= i + 1; k < factors.length(); k++)
1382    {
1383      gcdFreeBasis (bufSqrfFactors [i], bufSqrfFactors[k]);
1384    }
1385  }
1386
1387  factors= CFList();
1388  for (int i= 0; i < uniFactors.length(); i++)
1389  {
1390    if (i == 0)
1391    {
1392      for (iter= bufSqrfFactors [i]; iter.hasItem(); iter++)
1393      {
1394        if (iter.getItem().factor().inCoeffDomain())
1395          continue;
1396        iter.getItem()= CFFactor (iter.getItem().factor()/
1397                                  Lc (iter.getItem().factor()),
1398                                  iter.getItem().exp());
1399        factors.append (iter.getItem().factor());
1400      }
1401    }
1402    else
1403    {
1404      for (iter= bufSqrfFactors [i]; iter.hasItem(); iter++)
1405      {
1406        if (iter.getItem().factor().inCoeffDomain())
1407          continue;
1408        iter.getItem()= CFFactor (iter.getItem().factor()/
1409                                  Lc (iter.getItem().factor()),
1410                                  iter.getItem().exp());
1411        if (!find (factors, iter.getItem().factor()))
1412          factors.append (iter.getItem().factor());
1413      }
1414    }
1415  }
1416
1417  test= prod (factors);
1418  tmp= evalSqrfPartF.getFirst() (evalPoint[0],2);
1419  if (test/Lc (test) != tmp/Lc (tmp))
1420    return 0;
1421  else
1422    return 1;
1423}
1424
1425CFList
1426precomputeLeadingCoeff (const CanonicalForm& LCF, const CFList& LCFFactors,
1427                        const Variable& alpha, const CFList& evaluation,
1428                        CFList* & differentSecondVarLCs, int lSecondVarLCs,
1429                        Variable& y
1430                       )
1431{
1432  y= Variable (1);
1433  if (LCF.inCoeffDomain())
1434  {
1435    CFList result;
1436    for (int i= 1; i <= LCFFactors.length() + 1; i++)
1437      result.append (1);
1438    return result;
1439  }
1440
1441  CFMap N, M;
1442  CFArray dummy= CFArray (2);
1443  dummy [0]= LCF;
1444  dummy [1]= Variable (2);
1445  compress (dummy, M, N);
1446  CanonicalForm F= M (LCF);
1447  if (LCF.isUnivariate())
1448  {
1449    CFList result;
1450    int LCFLevel= LCF.level();
1451    bool found= false;
1452    if (LCFLevel == 2)
1453    {
1454    //bivariate leading coefficients are already the true leading coefficients
1455      result= LCFFactors;
1456      found= true;
1457    }
1458    else
1459    {
1460      CFListIterator j;
1461      for (int i= 0; i < lSecondVarLCs; i++)
1462      {
1463        for (j= differentSecondVarLCs[i]; j.hasItem(); j++)
1464        {
1465          if (j.getItem().level() == LCFLevel)
1466          {
1467            found= true;
1468            break;
1469          }
1470        }
1471        if (found)
1472        {
1473          result= differentSecondVarLCs [i];
1474          break;
1475        }
1476      }
1477      if (!found)
1478        result= LCFFactors;
1479    }
1480    if (found)
1481      result.insert (Lc (LCF));
1482    else
1483      result.append (LCF);
1484    return result;
1485  }
1486
1487  CFList factors= LCFFactors;
1488
1489  for (CFListIterator i= factors; i.hasItem(); i++)
1490    i.getItem()= M (i.getItem());
1491
1492  CanonicalForm sqrfPartF;
1493  CFFList * bufSqrfFactors= new CFFList [factors.length()];
1494  CFList evalSqrfPartF, bufFactors;
1495  CFArray evalPoint= CFArray (evaluation.length() - 1);
1496  CFArray buf= CFArray (evaluation.length());
1497  CFArray swap= CFArray (evaluation.length());
1498  CFListIterator iter= evaluation;
1499  CanonicalForm vars=getVars (LCF);
1500  for (int i= evaluation.length() +1; i > 1; i--, iter++)
1501  {
1502    buf[i-2]=iter.getItem();
1503    if (degree (vars, i) > 0)
1504      swap[M(Variable (i)).level()-1]=buf[i-2];
1505  }
1506  buf= swap;
1507  for (int i= 0; i < evaluation.length() - 1; i++)
1508    evalPoint[i]= buf[i+1];
1509
1510  int pass= testFactors (F, factors, alpha, sqrfPartF,
1511                         bufFactors, bufSqrfFactors, evalSqrfPartF, evalPoint);
1512
1513  bool foundDifferent= false;
1514  Variable z, x= y;
1515  int j= 0;
1516  if (!pass)
1517  {
1518    int lev= 0;
1519    // LCF is non-constant here
1520    CFList bufBufFactors;
1521    CanonicalForm bufF;
1522    for (int i= 0; i < lSecondVarLCs; i++)
1523    {
1524      if (!differentSecondVarLCs [i].isEmpty())
1525      {
1526        bool allConstant= true;
1527        for (iter= differentSecondVarLCs[i]; iter.hasItem(); iter++)
1528        {
1529          if (!iter.getItem().inCoeffDomain())
1530          {
1531            allConstant= false;
1532            y= Variable (iter.getItem().level());
1533            lev= M(y).level();
1534          }
1535        }
1536        if (allConstant)
1537          continue;
1538
1539        bufFactors= differentSecondVarLCs [i];
1540        for (iter= bufFactors; iter.hasItem(); iter++)
1541          iter.getItem()= swapvar (iter.getItem(), x, y);
1542        bufF= F;
1543        z= Variable (lev);
1544        bufF= swapvar (bufF, x, z);
1545        bufBufFactors= bufFactors;
1546        evalPoint= CFArray (evaluation.length() - 1);
1547        for (int k= 0; k < evaluation.length()-1; k++)
1548        {
1549          if (k+1 != lev)
1550            evalPoint[k]= buf[k+1];
1551          else
1552            evalPoint[k]= buf[0];
1553        }
1554        pass= testFactors (bufF, bufBufFactors, alpha, sqrfPartF, bufFactors,
1555                           bufSqrfFactors, evalSqrfPartF, evalPoint);
1556        if (pass)
1557        {
1558          foundDifferent= true;
1559          F= bufF;
1560          CFList l= factors;
1561          for (iter= l; iter.hasItem(); iter++)
1562            iter.getItem()= swapvar (iter.getItem(), x, y);
1563          differentSecondVarLCs [i]= l;
1564          j= i;
1565          break;
1566        }
1567        if (!pass && i == lSecondVarLCs - 1)
1568        {
1569          CFList result;
1570          result.append (LCF);
1571          for (int k= 1; k <= factors.length(); k++)
1572            result.append (LCF);
1573          y= Variable (1);
1574          delete [] bufSqrfFactors;
1575          return result;
1576        }
1577      }
1578    }
1579  }
1580  if (!pass)
1581  {
1582    CFList result;
1583    result.append (LCF);
1584    for (int k= 1; k <= factors.length(); k++)
1585      result.append (LCF);
1586    y= Variable (1);
1587    delete [] bufSqrfFactors;
1588    return result;
1589  }
1590  else
1591    factors= bufFactors;
1592
1593  bufFactors= factors;
1594  CFList evaluation2;
1595  for (int i= 0; i < F.level()-1; i++)
1596    evaluation2.insert (evalPoint[i]);
1597
1598  CFList interMedResult;
1599  CanonicalForm oldSqrfPartF= sqrfPartF;
1600  sqrfPartF= shift2Zero (sqrfPartF, evalSqrfPartF, evaluation2);
1601  if (factors.length() > 1)
1602  {
1603    CanonicalForm LC1= LC (oldSqrfPartF, 1);
1604    CFList leadingCoeffs;
1605    for (int i= 0; i < factors.length(); i++)
1606      leadingCoeffs.append (LC1);
1607
1608    CFList LC1eval= evaluateAtEval (LC1, evaluation2, 2);
1609    CFList oldFactors= factors;
1610    for (CFListIterator i= oldFactors; i.hasItem(); i++)
1611      i.getItem() *= LC1eval.getFirst()/Lc (i.getItem());
1612
1613    bool success= false;
1614    CanonicalForm oldSqrfPartFPowLC= oldSqrfPartF*power(LC1,factors.length()-1);
1615    if (size (oldSqrfPartFPowLC)/getNumVars (oldSqrfPartFPowLC) < 500 &&
1616        LucksWangSparseHeuristic (oldSqrfPartFPowLC,
1617                                  oldFactors, 2, leadingCoeffs, factors))
1618    {
1619      interMedResult= recoverFactors (oldSqrfPartF, factors);
1620      if (oldFactors.length() == interMedResult.length())
1621        success= true;
1622    }
1623    if (!success)
1624    {
1625      LC1= LC (evalSqrfPartF.getFirst(), 1);
1626
1627      CFArray leadingCoeffs= CFArray (factors.length());
1628      for (int i= 0; i < factors.length(); i++)
1629        leadingCoeffs[i]= LC1;
1630
1631      for (CFListIterator i= factors; i.hasItem(); i++)
1632        i.getItem() *= LC1 (0,2)/Lc (i.getItem());
1633      factors.insert (1);
1634
1635      CanonicalForm
1636      newSqrfPartF= evalSqrfPartF.getFirst()*power (LC1, factors.length() - 2);
1637
1638      int liftBound= degree (newSqrfPartF,2) + 1;
1639
1640      CFMatrix M= CFMatrix (liftBound, factors.length() - 1);
1641      CFArray Pi;
1642      CFList diophant;
1643      nonMonicHenselLift12 (newSqrfPartF, factors, liftBound, Pi, diophant, M,
1644                            leadingCoeffs, false);
1645
1646      if (sqrfPartF.level() > 2)
1647      {
1648        int* liftBounds= new int [sqrfPartF.level() - 1];
1649        liftBounds [0]= liftBound;
1650        bool noOneToOne= false;
1651        CFList *leadingCoeffs2= new CFList [sqrfPartF.level()-2];
1652        LC1= LC (evalSqrfPartF.getLast(), 1);
1653        CFList LCs;
1654        for (int i= 0; i < factors.length(); i++)
1655          LCs.append (LC1);
1656        leadingCoeffs2 [sqrfPartF.level() - 3]= LCs;
1657        for (int i= sqrfPartF.level() - 1; i > 2; i--)
1658        {
1659          for (CFListIterator j= LCs; j.hasItem(); j++)
1660            j.getItem()= j.getItem() (0, i + 1);
1661          leadingCoeffs2 [i - 3]= LCs;
1662        }
1663        sqrfPartF *= power (LC1, factors.length()-1);
1664
1665        int liftBoundsLength= sqrfPartF.level() - 1;
1666        for (int i= 1; i < liftBoundsLength; i++)
1667          liftBounds [i]= degree (sqrfPartF, i + 2) + 1;
1668        evalSqrfPartF= evaluateAtZero (sqrfPartF);
1669        evalSqrfPartF.removeFirst();
1670        factors= nonMonicHenselLift (evalSqrfPartF, factors, leadingCoeffs2,
1671                 diophant, Pi, liftBounds, sqrfPartF.level() - 1, noOneToOne);
1672        delete [] leadingCoeffs2;
1673        delete [] liftBounds;
1674      }
1675      for (CFListIterator iter= factors; iter.hasItem(); iter++)
1676        iter.getItem()= reverseShift (iter.getItem(), evaluation2);
1677
1678      interMedResult=
1679      recoverFactors (reverseShift(evalSqrfPartF.getLast(),evaluation2),
1680                      factors);
1681    }
1682  }
1683  else
1684  {
1685    CanonicalForm contF=content (oldSqrfPartF,1);
1686    factors= CFList (oldSqrfPartF/contF);
1687    interMedResult= recoverFactors (oldSqrfPartF, factors);
1688  }
1689
1690  CFList result;
1691  CFFListIterator k;
1692  for (int i= 0; i < LCFFactors.length(); i++)
1693  {
1694    CanonicalForm tmp= 1;
1695    for (k= bufSqrfFactors[i]; k.hasItem(); k++)
1696    {
1697      int pos= findItem (bufFactors, k.getItem().factor());
1698      if (pos)
1699        tmp *= power (getItem (interMedResult, pos), k.getItem().exp());
1700    }
1701    result.append (tmp);
1702  }
1703
1704  for (CFListIterator i= result; i.hasItem(); i++)
1705  {
1706    F /= i.getItem();
1707    if (foundDifferent)
1708      i.getItem()= swapvar (i.getItem(), x, z);
1709    i.getItem()= N (i.getItem());
1710  }
1711
1712  if (foundDifferent)
1713  {
1714    CFList l= differentSecondVarLCs [j];
1715    for (CFListIterator i= l; i.hasItem(); i++)
1716      i.getItem()= swapvar (i.getItem(), y, z);
1717    differentSecondVarLCs [j]= l;
1718    F= swapvar (F, x, z);
1719  }
1720
1721  result.insert (N (F));
1722
1723  result= distributeContent (result, differentSecondVarLCs, lSecondVarLCs);
1724
1725  if (!result.getFirst().inCoeffDomain())
1726  {
1727    CFListIterator i= result;
1728    CanonicalForm tmp;
1729    if (foundDifferent)
1730      i.getItem()= swapvar (i.getItem(), Variable (2), y);
1731
1732    tmp= i.getItem();
1733
1734    i++;
1735    for (; i.hasItem(); i++)
1736    {
1737      if (foundDifferent)
1738        i.getItem()= swapvar (i.getItem(), Variable (2), y)*tmp;
1739      else
1740        i.getItem() *= tmp;
1741    }
1742  }
1743  else
1744    y= Variable (1);
1745
1746  delete [] bufSqrfFactors;
1747
1748  return result;
1749}
1750
1751void
1752evaluationWRTDifferentSecondVars (CFList*& Aeval, const CFList& evaluation,
1753                                  const CanonicalForm& A)
1754{
1755  CanonicalForm tmp;
1756  CFList tmp2;
1757  CFListIterator iter;
1758  for (int i= A.level(); i > 2; i--)
1759  {
1760    tmp= A;
1761    tmp2= CFList();
1762    iter= evaluation;
1763    bool preserveDegree= true;
1764    for (int j= A.level(); j > 1; j--, iter++)
1765    {
1766      if (j == i)
1767        continue;
1768      else
1769      {
1770        tmp= tmp (iter.getItem(), j);
1771        tmp2.insert (tmp);
1772        if ((degree (tmp, i) != degree (A, i)) ||
1773            (degree (tmp, 1) != degree (A, 1)))
1774        {
1775          preserveDegree= false;
1776          break;
1777        }
1778        if (!content(tmp).inCoeffDomain() || !content(tmp,1).inCoeffDomain())
1779        {
1780          preserveDegree= false;
1781          break;
1782        }
1783      }
1784    }
1785    if (preserveDegree)
1786      Aeval [i - 3]= tmp2;
1787    else
1788      Aeval [i - 3]= CFList();
1789  }
1790}
1791
1792#endif
1793
1794static inline
1795CanonicalForm prodEval (const CFList& l, const CanonicalForm& evalPoint,
1796                        const Variable& v)
1797{
1798  CanonicalForm result= 1;
1799  for (CFListIterator i= l; i.hasItem(); i++)
1800    result *= i.getItem() (evalPoint, v);
1801  return result;
1802}
1803
1804//recombine bivariate factors in case one bivariate factorization yields less
1805// factors than the other
1806CFList
1807recombination (const CFList& factors1, const CFList& factors2, int s, int thres,
1808               const CanonicalForm& evalPoint, const Variable& x)
1809{
1810  CFList T, S;
1811
1812  T= factors1;
1813  CFList result;
1814  CanonicalForm buf;
1815  int * v= new int [T.length()];
1816  for (int i= 0; i < T.length(); i++)
1817    v[i]= 0;
1818  bool nosubset= false;
1819  CFArray TT;
1820  TT= copy (factors1);
1821  while (T.length() >= 2*s && s <= thres)
1822  {
1823    while (nosubset == false)
1824    {
1825      if (T.length() == s)
1826      {
1827        delete [] v;
1828        result.append (prod (T));
1829        return result;
1830      }
1831      S= subset (v, s, TT, nosubset);
1832      if (nosubset) break;
1833      buf= prodEval (S, evalPoint, x);
1834      buf /= Lc (buf);
1835      if (find (factors2, buf))
1836      {
1837        T= Difference (T, S);
1838        result.append (prod (S));
1839        TT= copy (T);
1840        indexUpdate (v, s, T.length(), nosubset);
1841        if (nosubset) break;
1842      }
1843    }
1844    s++;
1845    if (T.length() < 2*s || T.length() == s) 
1846    {
1847      delete [] v;
1848      result.append (prod (T));
1849      return result;
1850    }
1851    for (int i= 0; i < T.length(); i++)
1852      v[i]= 0;
1853    nosubset= false;
1854  }
1855
1856  delete [] v;
1857  if (T.length() < 2*s)
1858  {
1859    result.append (prod (T));
1860    return result;
1861  }
1862
1863  return result;
1864}
1865
1866#ifdef HAVE_NTL
1867void
1868factorizationWRTDifferentSecondVars (const CanonicalForm& A, CFList*& Aeval,
1869                                     const ExtensionInfo& info,
1870                                     int& minFactorsLength, bool& irred)
1871{
1872  Variable x= Variable (1);
1873  minFactorsLength= 0;
1874  irred= false;
1875  CFList factors;
1876  Variable v;
1877  for (int j= 0; j < A.level() - 2; j++)
1878  {
1879    if (!Aeval[j].isEmpty())
1880    {
1881      v= Variable (Aeval[j].getFirst().level());
1882      if (CFFactory::gettype() == GaloisFieldDomain)
1883        factors= GFBiSqrfFactorize (Aeval[j].getFirst());
1884      else if (info.getAlpha().level() == 1)
1885        factors= FpBiSqrfFactorize (Aeval[j].getFirst());
1886      else
1887        factors= FqBiSqrfFactorize (Aeval[j].getFirst(), info.getAlpha());
1888
1889      factors.removeFirst();
1890      if (minFactorsLength == 0)
1891        minFactorsLength= factors.length();
1892      else
1893        minFactorsLength= tmin (minFactorsLength, factors.length());
1894
1895      if (factors.length() == 1)
1896      {
1897        irred= true;
1898        return;
1899      }
1900      sortList (factors, x);
1901      Aeval [j]= factors;
1902    }
1903  }
1904}
1905
1906CFList conv (const CFArray & A)
1907{
1908  CFList result;
1909  for (int i= A.max(); i >= A.min(); i--)
1910    result.insert (A[i]);
1911  return result;
1912}
1913
1914
1915void getLeadingCoeffs (const CanonicalForm& A, CFList*& Aeval,
1916                       const CFList& uniFactors, const CFList& evaluation
1917                      )
1918{
1919  CFListIterator iter;
1920  CFList LCs;
1921  for (int j= 0; j < A.level() - 2; j++)
1922  {
1923    if (!Aeval[j].isEmpty())
1924    {
1925      LCs= CFList();
1926      for (iter= Aeval[j]; iter.hasItem(); iter++)
1927        LCs.append (LC (iter.getItem(), 1));
1928      //normalize (LCs);
1929      Aeval[j]= LCs;
1930    }
1931  }
1932}
1933
1934void sortByUniFactors (CFList*& Aeval, int AevalLength,
1935                       const CFList& uniFactors, const CFList& evaluation
1936                      )
1937{
1938  CanonicalForm evalPoint;
1939  int i;
1940  CFListIterator iter, iter2;
1941  Variable v;
1942  CFList LCs, buf;
1943  CFArray l;
1944  int pos, index;
1945  for (int j= 0; j < AevalLength; j++)
1946  {
1947    if (!Aeval[j].isEmpty())
1948    {
1949      i= evaluation.length() + 1;
1950      for (iter= evaluation; iter.hasItem(); iter++, i--)
1951      {
1952        if (i == Aeval[j].getFirst().level())
1953        {
1954          evalPoint= iter.getItem();
1955          break;
1956        }
1957      }
1958
1959      v= Variable (i);
1960      if (Aeval[j].length() > uniFactors.length())
1961        Aeval[j]= recombination (Aeval[j], uniFactors, 1,
1962                                 Aeval[j].length() - uniFactors.length() + 1,
1963                                 evalPoint, v);
1964
1965      buf= buildUniFactors (Aeval[j], evalPoint, v);
1966      l= CFArray (uniFactors.length());
1967      index= 1;
1968      for (iter= buf; iter.hasItem(); iter++, index++)
1969      {
1970        pos= findItem (uniFactors, iter.getItem());
1971        if (pos)
1972          l[pos-1]= getItem (Aeval[j], index);
1973      }
1974      buf= conv (l);
1975      Aeval [j]= buf;
1976
1977      buf= buildUniFactors (Aeval[j], evalPoint, v);
1978    }
1979  }
1980}
1981
1982CFList
1983buildUniFactors (const CFList& biFactors, const CanonicalForm& evalPoint,
1984                 const Variable& y)
1985{
1986  CFList result;
1987  CanonicalForm tmp;
1988  for (CFListIterator i= biFactors; i.hasItem(); i++)
1989  {
1990    tmp= mod (i.getItem(), y - evalPoint);
1991    tmp /= Lc (tmp);
1992    result.append (tmp);
1993  }
1994  return result;
1995}
1996
1997void refineBiFactors (const CanonicalForm& A, CFList& biFactors,
1998                      CFList* const& Aeval, const CFList& evaluation,
1999                      int minFactorsLength)
2000{
2001  CFListIterator iter;
2002  CanonicalForm evalPoint;
2003  int i;
2004  Variable v;
2005  Variable y= Variable (2);
2006  CFList list;
2007  for (int j= 0; j < A.level() - 2; j++)
2008  {
2009    if (Aeval[j].length() == minFactorsLength)
2010    {
2011      i= A.level();
2012
2013      for (iter= evaluation; iter.hasItem(); iter++, i--)
2014      {
2015        if (i == Aeval[j].getFirst().level())
2016        {
2017          evalPoint= iter.getItem();
2018          break;
2019        }
2020      }
2021
2022      v= Variable (i);
2023      list= buildUniFactors (Aeval[j], evalPoint, v);
2024
2025      biFactors= recombination (biFactors, list, 1,
2026                                biFactors.length() - list.length() + 1,
2027                                evaluation.getLast(), y);
2028      return;
2029    }
2030  }
2031}
2032
2033void prepareLeadingCoeffs (CFList*& LCs, int n, const CFList& leadingCoeffs,
2034                           const CFList& biFactors, const CFList& evaluation)
2035{
2036  CFList l= leadingCoeffs;
2037  LCs [n-3]= l;
2038  CFListIterator j;
2039  CFListIterator iter= evaluation;
2040  for (int i= n - 1; i > 2; i--, iter++)
2041  {
2042    for (j= l; j.hasItem(); j++)
2043      j.getItem()= j.getItem() (iter.getItem(), i + 1);
2044    LCs [i - 3]= l;
2045  }
2046  l= LCs [0];
2047  for (CFListIterator i= l; i.hasItem(); i++)
2048    i.getItem()= i.getItem() (iter.getItem(), 3);
2049  CFListIterator ii= biFactors;
2050  CFList normalizeFactor;
2051  for (CFListIterator i= l; i.hasItem(); i++, ii++)
2052    normalizeFactor.append (Lc (LC (ii.getItem(), 1))/Lc (i.getItem()));
2053  for (int i= 0; i < n-2; i++)
2054  {
2055    ii= normalizeFactor;
2056    for (j= LCs [i]; j.hasItem(); j++, ii++)
2057      j.getItem() *= ii.getItem();
2058  }
2059}
2060
2061CFList recoverFactors (const CanonicalForm& F, const CFList& factors)
2062{
2063  CFList result;
2064  CanonicalForm tmp, tmp2;
2065  CanonicalForm G= F;
2066  for (CFListIterator i= factors; i.hasItem(); i++)
2067  {
2068    tmp= i.getItem()/content (i.getItem(), 1);
2069    if (fdivides (tmp, G, tmp2))
2070    {
2071      G= tmp2;
2072      result.append (tmp);
2073    }
2074  }
2075  return result;
2076}
2077
2078CFList recoverFactors (const CanonicalForm& F, const CFList& factors,
2079                       const CFList& evaluation)
2080{
2081  CFList result;
2082  CanonicalForm tmp, tmp2;
2083  CanonicalForm G= F;
2084  for (CFListIterator i= factors; i.hasItem(); i++)
2085  {
2086    tmp= reverseShift (i.getItem(), evaluation);
2087    tmp /= content (tmp, 1);
2088    if (fdivides (tmp, G, tmp2))
2089    {
2090      G= tmp2;
2091      result.append (tmp);
2092    }
2093  }
2094  return result;
2095}
2096
2097CFList recoverFactors (CanonicalForm& F, const CFList& factors, int* index)
2098{
2099  CFList result;
2100  CanonicalForm tmp, tmp2;
2101  CanonicalForm G= F;
2102  int j= 0;
2103  for (CFListIterator i= factors; i.hasItem(); i++, j++)
2104  {
2105    if (i.getItem().isZero())
2106    {
2107      index[j]= 0;
2108      continue;
2109    }
2110    tmp= i.getItem();
2111    if (fdivides (tmp, G, tmp2))
2112    {
2113      G= tmp2;
2114      tmp /=content (tmp, 1);
2115      result.append (tmp);
2116      index[j]= 1;
2117    }
2118    else
2119      index[j]= 0;
2120  }
2121  F= G;
2122  return result;
2123}
2124
2125CFList
2126extNonMonicFactorRecombination (const CFList& factors, const CanonicalForm& F,
2127                                const ExtensionInfo& info)
2128{
2129  Variable alpha= info.getAlpha();
2130  Variable beta= info.getBeta();
2131  CanonicalForm gamma= info.getGamma();
2132  CanonicalForm delta= info.getDelta();
2133  int k= info.getGFDegree();
2134  CFList source, dest;
2135
2136  int degMipoBeta= 1;
2137  if (!k && beta != Variable(1))
2138    degMipoBeta= degree (getMipo (beta));
2139
2140  CFList T, S;
2141  T= factors;
2142  int s= 1;
2143  CFList result;
2144  CanonicalForm quot, buf= F;
2145
2146  CanonicalForm g;
2147  CanonicalForm buf2;
2148  int * v= new int [T.length()];
2149  for (int i= 0; i < T.length(); i++)
2150    v[i]= 0;
2151  bool noSubset= false;
2152  CFArray TT;
2153  TT= copy (factors);
2154  bool recombination= false;
2155  bool trueFactor= false;
2156  while (T.length() >= 2*s)
2157  {
2158    while (noSubset == false)
2159    {
2160      if (T.length() == s)
2161      {
2162        delete [] v;
2163        if (recombination)
2164        {
2165          g= prod (T);
2166          T.removeFirst();
2167          result.append (g/myContent (g));
2168          g /= Lc (g);
2169          appendTestMapDown (result, g, info, source, dest);
2170          return result;
2171        }
2172        else
2173          return CFList (buf/myContent(buf));
2174      }
2175
2176      S= subset (v, s, TT, noSubset);
2177      if (noSubset) break;
2178
2179      g= prod (S);
2180      g /= myContent (g);
2181      if (fdivides (g, buf, quot))
2182      {
2183        buf2= g;
2184        buf2 /= Lc (buf2);
2185        if (!k && beta.level() == 1)
2186        {
2187          if (degree (buf2, alpha) < degMipoBeta)
2188          {
2189            appendTestMapDown (result, buf2, info, source, dest);
2190            buf= quot;
2191            recombination= true;
2192            trueFactor= true;
2193          }
2194        }
2195        else
2196        {
2197          if (!isInExtension (buf2, gamma, k, delta, source, dest))
2198          {
2199            appendTestMapDown (result, buf2, info, source, dest);
2200            buf= quot;
2201            recombination= true;
2202            trueFactor= true;
2203          }
2204        }
2205        if (trueFactor)
2206        {
2207          T= Difference (T, S);
2208
2209          if (T.length() < 2*s || T.length() == s)
2210          {
2211            delete [] v;
2212            buf /= myContent (buf);
2213            buf /= Lc (buf);
2214            appendTestMapDown (result, buf, info, source, dest);
2215            return result;
2216          }
2217          trueFactor= false;
2218          TT= copy (T);
2219          indexUpdate (v, s, T.length(), noSubset);
2220          if (noSubset) break;
2221        }
2222      }
2223    }
2224    s++;
2225    if (T.length() < 2*s || T.length() == s)
2226    {
2227      delete [] v;
2228      appendTestMapDown (result, buf/myContent(buf), info, source, dest);
2229      return result;
2230    }
2231    for (int i= 0; i < T.length(); i++)
2232      v[i]= 0;
2233    noSubset= false;
2234  }
2235  if (T.length() < 2*s)
2236    appendMapDown (result, F/myContent(F), info, source, dest);
2237
2238  delete [] v;
2239  return result;
2240}
2241
2242CFList
2243extFactorize (const CanonicalForm& F, const ExtensionInfo& info);
2244
2245CFList
2246multiFactorize (const CanonicalForm& F, const ExtensionInfo& info)
2247{
2248
2249  if (F.inCoeffDomain())
2250    return CFList (F);
2251
2252  // compress and find main Variable
2253  CFMap N;
2254  CanonicalForm A= myCompress (F, N);
2255
2256  A /= Lc (A); // make monic
2257
2258  Variable alpha= info.getAlpha();
2259  Variable beta= info.getBeta();
2260  CanonicalForm gamma= info.getGamma();
2261  CanonicalForm delta= info.getDelta();
2262  bool extension= info.isInExtension();
2263  bool GF= (CFFactory::gettype() == GaloisFieldDomain);
2264  //univariate case
2265  if (F.isUnivariate())
2266  {
2267    if (extension == false)
2268      return uniFactorizer (F, alpha, GF);
2269    else
2270    {
2271      CFList source, dest;
2272      A= mapDown (F, info, source, dest);
2273      return uniFactorizer (A, beta, GF);
2274    }
2275  }
2276
2277  //bivariate case
2278  if (A.level() == 2)
2279  {
2280    CFList buf= biFactorize (F, info);
2281    return buf;
2282  }
2283
2284  Variable x= Variable (1);
2285  Variable y= Variable (2);
2286
2287  // remove content
2288  CFList contentAi;
2289  CanonicalForm lcmCont= lcmContent (A, contentAi);
2290  A /= lcmCont;
2291
2292  // trivial after content removal
2293  CFList contentAFactors;
2294  if (A.inCoeffDomain())
2295  {
2296    for (CFListIterator i= contentAi; i.hasItem(); i++)
2297    {
2298      if (i.getItem().inCoeffDomain())
2299        continue;
2300      else
2301      {
2302        lcmCont /= i.getItem();
2303        contentAFactors=
2304        Union (multiFactorize (lcmCont, info),
2305               multiFactorize (i.getItem(), info));
2306        break;
2307      }
2308    }
2309    decompress (contentAFactors, N);
2310    normalize (contentAFactors);
2311    return contentAFactors;
2312  }
2313
2314  // factorize content
2315  contentAFactors= multiFactorize (lcmCont, info);
2316
2317  // univariate after content removal
2318  CFList factors;
2319  if (A.isUnivariate ())
2320  {
2321    factors= uniFactorizer (A, alpha, GF);
2322    append (factors, contentAFactors);
2323    decompress (factors, N);
2324    return factors;
2325  }
2326
2327  // check main variable
2328  int swapLevel= 0;
2329  CanonicalForm derivZ;
2330  CanonicalForm gcdDerivZ;
2331  CanonicalForm bufA= A;
2332  Variable z;
2333  for (int i= 1; i <= A.level(); i++)
2334  {
2335    z= Variable (i);
2336    derivZ= deriv (bufA, z);
2337    if (derivZ.isZero())
2338    {
2339      if (i == 1)
2340        swapLevel= 1;
2341      else
2342        continue;
2343    }
2344    else
2345    {
2346      if (swapLevel == 1)
2347      {
2348        swapLevel= i;
2349        bufA= swapvar (A, x, z);
2350      }
2351      gcdDerivZ= gcd (bufA, derivZ);
2352      if (degree (gcdDerivZ) > 0 && !derivZ.isZero())
2353      {
2354        CanonicalForm g= bufA/gcdDerivZ;
2355        CFList factorsG=
2356        Union (multiFactorize (g, info),
2357               multiFactorize (gcdDerivZ, info));
2358        appendSwapDecompress (factorsG, contentAFactors, N, swapLevel, x);
2359        normalize (factorsG);
2360        return factorsG;
2361      }
2362      else
2363      {
2364        A= bufA;
2365        break;
2366      }
2367    }
2368  }
2369
2370
2371  CFList Aeval, list, evaluation, bufEvaluation, bufAeval;
2372  bool fail= false;
2373  int swapLevel2= 0;
2374  int level;
2375  int factorNums= 3;
2376  CanonicalForm bivarEval;
2377  CFList biFactors, bufBiFactors;
2378  CanonicalForm evalPoly;
2379  int lift, bufLift;
2380  double logarithm= (double) ilog2 (totaldegree (A));
2381  logarithm /= log2exp;
2382  logarithm= ceil (logarithm);
2383  if (factorNums < (int) logarithm)
2384    factorNums= (int) logarithm;
2385  CFList* bufAeval2= new CFList [A.level() - 2];
2386  CFList* Aeval2= new CFList [A.level() - 2];
2387  int counter;
2388  int differentSecondVar= 0;
2389  // several bivariate factorizations
2390  for (int i= 0; i < factorNums; i++)
2391  {
2392    counter= 0;
2393    bufA= A;
2394    bufAeval= CFList();
2395    bufEvaluation= evalPoints (bufA, bufAeval, alpha, list, GF, fail);
2396    evalPoly= 0;
2397
2398    if (fail && (i == 0))
2399    {
2400      if (!swapLevel)
2401        level= 2;
2402      else
2403        level= swapLevel + 1;
2404
2405      CanonicalForm g;
2406      swapLevel2= newMainVariableSearch (A, Aeval, evaluation, alpha, level, g);
2407
2408      if (!swapLevel2) // need to pass to an extension
2409      {
2410        factors= extFactorize (A, info);
2411        appendSwapDecompress (factors, contentAFactors, N, swapLevel, x);
2412        normalize (factors);
2413        delete [] bufAeval2;
2414        delete [] Aeval2;
2415        return factors;
2416      }
2417      else
2418      {
2419        if (swapLevel2 == -1)
2420        {
2421          CFList factorsG=
2422          Union (multiFactorize (g, info),
2423                 multiFactorize (A/g, info));
2424          appendSwapDecompress (factorsG, contentAFactors, N, swapLevel, x);
2425          normalize (factorsG);
2426          delete [] bufAeval2;
2427          delete [] Aeval2;
2428          return factorsG;
2429        }
2430        fail= false;
2431        bufAeval= Aeval;
2432        bufA= A;
2433        bufEvaluation= evaluation;
2434      }
2435    }
2436    else if (fail && (i > 0))
2437      break;
2438
2439    bivarEval= bufEvaluation.getLast();
2440
2441    evaluationWRTDifferentSecondVars (bufAeval2, bufEvaluation, A);
2442
2443    for (int j= 0; j < A.level() - 2; j++)
2444    {
2445      if (!bufAeval2[j].isEmpty())
2446        counter++;
2447    }
2448
2449    bufLift= degree (A, y) + 1 + degree (LC(A, x), y);
2450
2451    TIMING_START (fac_fq_bi_factorizer);
2452    if (!GF && alpha.level() == 1)
2453      bufBiFactors= FpBiSqrfFactorize (bufAeval.getFirst());
2454    else if (GF)
2455      bufBiFactors= GFBiSqrfFactorize (bufAeval.getFirst());
2456    else
2457      bufBiFactors= FqBiSqrfFactorize (bufAeval.getFirst(), alpha);
2458    TIMING_END_AND_PRINT (fac_fq_bi_factorizer,
2459                          "time for bivariate factorization: ");
2460    bufBiFactors.removeFirst();
2461
2462    if (bufBiFactors.length() == 1)
2463    {
2464      if (extension)
2465      {
2466        CFList source, dest;
2467        A= mapDown (A, info, source, dest);
2468      }
2469      factors.append (A);
2470      appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2471                            swapLevel2, x);
2472      normalize (factors);
2473      delete [] bufAeval2;
2474      delete [] Aeval2;
2475      return factors;
2476    }
2477
2478    if (i == 0)
2479    {
2480      Aeval= bufAeval;
2481      evaluation= bufEvaluation;
2482      biFactors= bufBiFactors;
2483      lift= bufLift;
2484      for (int j= 0; j < A.level() - 2; j++)
2485        Aeval2 [j]= bufAeval2 [j];
2486      differentSecondVar= counter;
2487    }
2488    else
2489    {
2490      if (bufBiFactors.length() < biFactors.length() ||
2491          ((bufLift < lift) && (bufBiFactors.length() == biFactors.length())) ||
2492          counter > differentSecondVar)
2493      {
2494        Aeval= bufAeval;
2495        evaluation= bufEvaluation;
2496        biFactors= bufBiFactors;
2497        lift= bufLift;
2498        for (int j= 0; j < A.level() - 2; j++)
2499          Aeval2 [j]= bufAeval2 [j];
2500        differentSecondVar= counter;
2501      }
2502    }
2503    int k= 0;
2504    for (CFListIterator j= bufEvaluation; j.hasItem(); j++, k++)
2505      evalPoly += j.getItem()*power (x, k);
2506    list.append (evalPoly);
2507  }
2508
2509  delete [] bufAeval2;
2510
2511  sortList (biFactors, x);
2512
2513  int minFactorsLength;
2514  bool irred= false;
2515  factorizationWRTDifferentSecondVars (A, Aeval2, info, minFactorsLength, irred);
2516
2517  if (irred)
2518  {
2519    if (extension)
2520    {
2521      CFList source, dest;
2522      A= mapDown (A, info, source, dest);
2523    }
2524    factors.append (A);
2525    appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2526                          swapLevel2, x);
2527    normalize (factors);
2528    delete [] Aeval2;
2529    return factors;
2530  }
2531
2532  if (minFactorsLength == 0)
2533    minFactorsLength= biFactors.length();
2534  else if (biFactors.length() > minFactorsLength)
2535    refineBiFactors (A, biFactors, Aeval2, evaluation, minFactorsLength);
2536  minFactorsLength= tmin (minFactorsLength, biFactors.length());
2537
2538  if (differentSecondVar == A.level() - 2)
2539  {
2540    bool zeroOccured= false;
2541    for (CFListIterator iter= evaluation; iter.hasItem(); iter++)
2542    {
2543      if (iter.getItem().isZero())
2544      {
2545        zeroOccured= true;
2546        break;
2547      }
2548    }
2549    if (!zeroOccured)
2550    {
2551      factors= sparseHeuristic (A, biFactors, Aeval2, evaluation, minFactorsLength);
2552      if (factors.length() == biFactors.length())
2553      {
2554        if (extension)
2555          factors= extNonMonicFactorRecombination (factors, A, info);
2556
2557        appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2558                              swapLevel2, x);
2559        normalize (factors);
2560        delete [] Aeval2;
2561        return factors;
2562      }
2563      else
2564        factors= CFList();
2565      //TODO case where factors.length() > 0
2566    }
2567  }
2568
2569  CFList uniFactors= buildUniFactors (biFactors, evaluation.getLast(), y);
2570
2571  sortByUniFactors (Aeval2, A.level() - 2, uniFactors, evaluation);
2572
2573  CFList * oldAeval= new CFList [A.level() - 2]; //TODO use bufAeval2 for this
2574  for (int i= 0; i < A.level() - 2; i++)
2575    oldAeval[i]= Aeval2[i];
2576
2577  getLeadingCoeffs (A, Aeval2, uniFactors, evaluation);
2578
2579  CFList biFactorsLCs;
2580  for (CFListIterator i= biFactors; i.hasItem(); i++)
2581    biFactorsLCs.append (LC (i.getItem(), 1));
2582
2583  Variable v;
2584  CFList leadingCoeffs= precomputeLeadingCoeff (LC (A, 1), biFactorsLCs, alpha,
2585                                          evaluation, Aeval2, A.level() - 2, v);
2586
2587  if (v.level() != 1)
2588  {
2589    A= swapvar (A, y, v);
2590    int i= A.level();
2591    CanonicalForm evalPoint;
2592    for (CFListIterator iter= evaluation; iter.hasItem(); iter++, i--)
2593    {
2594      if (i == v.level())
2595      {
2596        evalPoint= iter.getItem();
2597        iter.getItem()= evaluation.getLast();
2598        evaluation.removeLast();
2599        evaluation.append (evalPoint);
2600        break;
2601      }
2602    }
2603    for (i= 0; i < A.level() - 2; i++)
2604    {
2605      if (oldAeval[i].isEmpty())
2606        continue;
2607      if (oldAeval[i].getFirst().level() == v.level())
2608      {
2609        CFArray tmp= copy (oldAeval[i]);
2610        for (int ii= 0; ii < tmp.size(); ii++)
2611          tmp[ii]= swapvar (tmp[ii], v, y);
2612        CFArray tmp2= CFArray (tmp.size());
2613        CanonicalForm buf;
2614        for (int ii= 0; ii < tmp.size(); ii++)
2615        {
2616          buf= tmp[ii] (evaluation.getLast(),y);
2617          buf /= Lc (buf);
2618          tmp2[findItem (uniFactors, buf)-1]=tmp[ii];
2619        }
2620        biFactors= CFList();
2621        for (int j= 0; j < tmp2.size(); j++)
2622          biFactors.append (tmp2[j]);
2623      }
2624    }
2625  }
2626
2627  CFListIterator iter;
2628  CanonicalForm oldA= A;
2629  CFList oldBiFactors= biFactors;
2630  if (!leadingCoeffs.getFirst().inCoeffDomain())
2631  {
2632    CanonicalForm tmp= power (leadingCoeffs.getFirst(), biFactors.length() - 1);
2633    A *= tmp;
2634    tmp= leadingCoeffs.getFirst();
2635    iter= evaluation;
2636    for (int i= A.level(); i > 2; i--, iter++)
2637      tmp= tmp (iter.getItem(), i);
2638    if (!tmp.inCoeffDomain())
2639    {
2640      for (CFListIterator i= biFactors; i.hasItem(); i++)
2641      {
2642        i.getItem() *= tmp/LC (i.getItem(), 1);
2643        i.getItem() /= Lc (i.getItem());
2644      }
2645    }
2646  }
2647
2648  leadingCoeffs.removeFirst();
2649
2650  //prepare leading coefficients
2651  CFList* leadingCoeffs2= new CFList [A.level() - 2];
2652  prepareLeadingCoeffs (leadingCoeffs2, A.level(), leadingCoeffs, biFactors,
2653                        evaluation);
2654
2655  Aeval= evaluateAtEval (A, evaluation, 2);
2656  CanonicalForm hh= Lc (Aeval.getFirst());
2657  for (iter= Aeval; iter.hasItem(); iter++)
2658    iter.getItem() /= hh;
2659
2660  A /= hh;
2661
2662  if (size (A)/getNumVars (A) < 500 && 
2663      LucksWangSparseHeuristic (A, biFactors, 2, leadingCoeffs2 [A.level() - 3],
2664                                factors))
2665  {
2666    int check= factors.length();
2667    factors= recoverFactors (A, factors);
2668
2669    if (check == factors.length())
2670    {
2671      if (extension)
2672        factors= extNonMonicFactorRecombination (factors, A, info);
2673
2674      if (v.level() != 1)
2675      {
2676        for (CFListIterator iter= factors; iter.hasItem(); iter++)
2677          iter.getItem()= swapvar (iter.getItem(), v, y);
2678      }
2679      appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2680                            swapLevel2, x);
2681      normalize (factors);
2682      delete [] Aeval2;
2683      return factors;
2684    }
2685    else
2686      factors= CFList();
2687    //TODO handle this case
2688  }
2689
2690  A= shift2Zero (A, Aeval, evaluation);
2691
2692  for (iter= biFactors; iter.hasItem(); iter++)
2693    iter.getItem()= iter.getItem () (y + evaluation.getLast(), y);
2694
2695  for (int i= 0; i < A.level() - 2; i++)
2696  {
2697    if (i != A.level() - 3)
2698      leadingCoeffs2[i]= CFList();
2699  }
2700  for (iter= leadingCoeffs2[A.level() - 3]; iter.hasItem(); iter++)
2701  {
2702    iter.getItem()= shift2Zero (iter.getItem(), list, evaluation);
2703    for (int i= A.level() - 4; i > -1; i--)
2704    {
2705      if (i + 1 == A.level() - 3)
2706        leadingCoeffs2[i].append (iter.getItem() (0, i + 4));
2707      else
2708        leadingCoeffs2[i].append (leadingCoeffs2[i+1].getLast() (0, i + 4));
2709    }
2710  }
2711
2712  CFArray Pi;
2713  CFList diophant;
2714  int* liftBounds= new int [A.level() - 1];
2715  int liftBoundsLength= A.level() - 1;
2716  for (int i= 0; i < liftBoundsLength; i++)
2717    liftBounds [i]= degree (A, i + 2) + 1;
2718
2719  Aeval.removeFirst();
2720  bool noOneToOne= false;
2721  factors= nonMonicHenselLift (Aeval, biFactors, leadingCoeffs2, diophant,
2722                               Pi, liftBounds, liftBoundsLength, noOneToOne);
2723
2724  if (!noOneToOne)
2725  {
2726    int check= factors.length();
2727    A= oldA;
2728    factors= recoverFactors (A, factors, evaluation);
2729    if (check != factors.length())
2730      noOneToOne= true;
2731
2732    if (extension && !noOneToOne)
2733      factors= extNonMonicFactorRecombination (factors, A, info);
2734  }
2735  if (noOneToOne)
2736  {
2737    A= shift2Zero (oldA, Aeval, evaluation);
2738    biFactors= oldBiFactors;
2739    for (iter= biFactors; iter.hasItem(); iter++)
2740      iter.getItem()= iter.getItem () (y + evaluation.getLast(), y);
2741    CanonicalForm LCA= LC (Aeval.getFirst(), 1);
2742    CanonicalForm yToLift= power (y, lift);
2743    CFListIterator i= biFactors;
2744    lift= degree (i.getItem(), 2) + degree (LC (i.getItem(), 1)) + 1;
2745    i++;
2746
2747    for (; i.hasItem(); i++)
2748      lift= tmax (lift, degree (i.getItem(), 2) + degree (LC (i.getItem(), 1)) + 1);
2749
2750    lift= tmax (degree (Aeval.getFirst() , 2) + 1, lift);
2751
2752    i= biFactors;
2753    yToLift= power (y, lift);
2754    CanonicalForm dummy;
2755    for (; i.hasItem(); i++)
2756    {
2757      LCA= LC (i.getItem(), 1);
2758      extgcd (LCA, yToLift, LCA, dummy);
2759      i.getItem()= mod (i.getItem()*LCA, yToLift);
2760    }
2761
2762    liftBoundsLength= F.level() - 1;
2763    liftBounds= liftingBounds (A, lift);
2764
2765    CFList MOD;
2766    bool earlySuccess;
2767    CFList earlyFactors, liftedFactors;
2768    TIMING_START (fac_fq_hensel_lift);
2769    liftedFactors= henselLiftAndEarly
2770                   (A, MOD, liftBounds, earlySuccess, earlyFactors,
2771                    Aeval, biFactors, evaluation, info);
2772    TIMING_END_AND_PRINT (fac_fq_hensel_lift, "time for hensel lifting: ");
2773
2774    if (!extension)
2775    {
2776      TIMING_START (fac_fq_factor_recombination);
2777      factors= factorRecombination (A, liftedFactors, MOD);
2778      TIMING_END_AND_PRINT (fac_fq_factor_recombination,
2779                            "time for factor recombination: ");
2780    }
2781    else
2782    {
2783      TIMING_START (fac_fq_factor_recombination);
2784      factors= extFactorRecombination (liftedFactors, A, MOD, info, evaluation);
2785      TIMING_END_AND_PRINT (fac_fq_factor_recombination,
2786                            "time for factor recombination: ");
2787    }
2788
2789    if (earlySuccess)
2790      factors= Union (factors, earlyFactors);
2791    if (!extension)
2792    {
2793      for (CFListIterator i= factors; i.hasItem(); i++)
2794      {
2795        int kk= Aeval.getLast().level();
2796        for (CFListIterator j= evaluation; j.hasItem(); j++, kk--)
2797        {
2798          if (i.getItem().level() < kk)
2799            continue;
2800          i.getItem()= i.getItem() (Variable (kk) - j.getItem(), kk);
2801        }
2802      }
2803    }
2804  }
2805
2806  if (v.level() != 1)
2807  {
2808    for (CFListIterator iter= factors; iter.hasItem(); iter++)
2809      iter.getItem()= swapvar (iter.getItem(), v, y);
2810  }
2811
2812  swap (factors, swapLevel, swapLevel2, x);
2813  append (factors, contentAFactors);
2814  decompress (factors, N);
2815  normalize (factors);
2816
2817  delete[] liftBounds;
2818
2819  return factors;
2820}
2821
2822/// multivariate factorization over an extension of the initial field
2823CFList
2824extFactorize (const CanonicalForm& F, const ExtensionInfo& info)
2825{
2826  CanonicalForm A= F;
2827
2828  Variable alpha= info.getAlpha();
2829  Variable beta= info.getBeta();
2830  int k= info.getGFDegree();
2831  char cGFName= info.getGFName();
2832  CanonicalForm delta= info.getDelta();
2833  bool GF= (CFFactory::gettype() == GaloisFieldDomain);
2834  Variable w= Variable (1);
2835
2836  CFList factors;
2837  if (!GF && alpha == w)  // we are in F_p
2838  {
2839    CFList factors;
2840    bool extension= true;
2841    int p= getCharacteristic();
2842    if (p*p < (1<<16)) // pass to GF if possible
2843    {
2844      setCharacteristic (getCharacteristic(), 2, 'Z');
2845      ExtensionInfo info= ExtensionInfo (extension);
2846      A= A.mapinto();
2847      factors= multiFactorize (A, info);
2848
2849      CanonicalForm mipo= gf_mipo;
2850      setCharacteristic (getCharacteristic());
2851      Variable vBuf= rootOf (mipo.mapinto());
2852      for (CFListIterator j= factors; j.hasItem(); j++)
2853        j.getItem()= GF2FalphaRep (j.getItem(), vBuf);
2854    }
2855    else  // not able to pass to GF, pass to F_p(\alpha)
2856    {
2857      CanonicalForm mipo= randomIrredpoly (2, w);
2858      Variable v= rootOf (mipo);
2859      ExtensionInfo info= ExtensionInfo (v);
2860      factors= multiFactorize (A, info);
2861    }
2862    return factors;
2863  }
2864  else if (!GF && (alpha != w)) // we are in F_p(\alpha)
2865  {
2866    if (k == 1) // need factorization over F_p
2867    {
2868      int extDeg= degree (getMipo (alpha));
2869      extDeg++;
2870      CanonicalForm mipo= randomIrredpoly (extDeg + 1, w);
2871      Variable v= rootOf (mipo);
2872      ExtensionInfo info= ExtensionInfo (v);
2873      factors= multiFactorize (A, info);
2874    }
2875    else
2876    {
2877      if (beta == w)
2878      {
2879        Variable v= chooseExtension (alpha, beta, k);
2880        CanonicalForm primElem, imPrimElem;
2881        bool primFail= false;
2882        Variable vBuf;
2883        primElem= primitiveElement (alpha, vBuf, primFail);
2884        ASSERT (!primFail, "failure in integer factorizer");
2885        if (primFail)
2886          ; //ERROR
2887        else
2888          imPrimElem= mapPrimElem (primElem, vBuf, v);
2889
2890        CFList source, dest;
2891        CanonicalForm bufA= mapUp (A, alpha, v, primElem, imPrimElem,
2892                                   source, dest);
2893        ExtensionInfo info= ExtensionInfo (v, alpha, imPrimElem, primElem);
2894        factors= multiFactorize (bufA, info);
2895      }
2896      else
2897      {
2898        Variable v= chooseExtension (alpha, beta, k);
2899        CanonicalForm primElem, imPrimElem;
2900        bool primFail= false;
2901        Variable vBuf;
2902        ASSERT (!primFail, "failure in integer factorizer");
2903        if (primFail)
2904          ; //ERROR
2905        else
2906          imPrimElem= mapPrimElem (delta, beta, v);
2907
2908        CFList source, dest;
2909        CanonicalForm bufA= mapDown (A, info, source, dest);
2910        source= CFList();
2911        dest= CFList();
2912        bufA= mapUp (bufA, beta, v, delta, imPrimElem, source, dest);
2913        ExtensionInfo info= ExtensionInfo (v, beta, imPrimElem, delta);
2914        factors= multiFactorize (bufA, info);
2915      }
2916    }
2917    return factors;
2918  }
2919  else // we are in GF (p^k)
2920  {
2921    int p= getCharacteristic();
2922    int extensionDeg= getGFDegree();
2923    bool extension= true;
2924    if (k == 1) // need factorization over F_p
2925    {
2926      extensionDeg++;
2927      if (pow ((double) p, (double) extensionDeg) < (1<<16))
2928      // pass to GF(p^k+1)
2929      {
2930        CanonicalForm mipo= gf_mipo;
2931        setCharacteristic (p);
2932        Variable vBuf= rootOf (mipo.mapinto());
2933        A= GF2FalphaRep (A, vBuf);
2934        setCharacteristic (p, extensionDeg, 'Z');
2935        ExtensionInfo info= ExtensionInfo (extension);
2936        factors= multiFactorize (A.mapinto(), info);
2937      }
2938      else // not able to pass to another GF, pass to F_p(\alpha)
2939      {
2940        CanonicalForm mipo= gf_mipo;
2941        setCharacteristic (p);
2942        Variable vBuf= rootOf (mipo.mapinto());
2943        A= GF2FalphaRep (A, vBuf);
2944        Variable v= chooseExtension (vBuf, beta, k);
2945        ExtensionInfo info= ExtensionInfo (v, extension);
2946        factors= multiFactorize (A, info);
2947      }
2948    }
2949    else // need factorization over GF (p^k)
2950    {
2951      if (pow ((double) p, (double) 2*extensionDeg) < (1<<16))
2952      // pass to GF(p^2k)
2953      {
2954        setCharacteristic (p, 2*extensionDeg, 'Z');
2955        ExtensionInfo info= ExtensionInfo (k, cGFName, extension);
2956        factors= multiFactorize (GFMapUp (A, extensionDeg), info);
2957        setCharacteristic (p, extensionDeg, cGFName);
2958      }
2959      else // not able to pass to GF (p^2k), pass to F_p (\alpha)
2960      {
2961        CanonicalForm mipo= gf_mipo;
2962        setCharacteristic (p);
2963        Variable v1= rootOf (mipo.mapinto());
2964        A= GF2FalphaRep (A, v1);
2965        Variable v2= chooseExtension (v1, v1, k);
2966        CanonicalForm primElem, imPrimElem;
2967        bool primFail= false;
2968        Variable vBuf;
2969        primElem= primitiveElement (v1, v1, primFail);
2970        if (primFail)
2971          ; //ERROR
2972        else
2973          imPrimElem= mapPrimElem (primElem, v1, v2);
2974        CFList source, dest;
2975        CanonicalForm bufA= mapUp (A, v1, v2, primElem, imPrimElem,
2976                                     source, dest);
2977        ExtensionInfo info= ExtensionInfo (v2, v1, imPrimElem, primElem);
2978        factors= multiFactorize (bufA, info);
2979        setCharacteristic (p, k, cGFName);
2980        for (CFListIterator i= factors; i.hasItem(); i++)
2981          i.getItem()= Falpha2GFRep (i.getItem());
2982      }
2983    }
2984    return factors;
2985  }
2986}
2987
2988#endif
2989/* HAVE_NTL */
2990
Note: See TracBrowser for help on using the repository browser.