source: git/factory/facFqFactorize.cc @ faa1b8d

spielwiese
Last change on this file since faa1b8d was 8256fd, checked in by Martin Lee <martinlee84@…>, 12 years ago
fix: possible hang in multivariate factorization
  • Property mode set to 100644
File size: 75.9 KB
Line 
1/*****************************************************************************\
2 * Computer Algebra System SINGULAR
3\*****************************************************************************/
4/** @file facFqFactorize.cc
5 *
6 * This file implements functions for factoring a multivariate polynomial over
7 * a finite field.
8 *
9 * ABSTRACT: "Efficient Multivariate Factorization over Finite Fields" by
10 * L. Bernardin & M. Monagon. Precomputation of leading coefficients is
11 * described in "Sparse Hensel lifting" by E. Kaltofen
12 *
13 * @author Martin Lee
14 *
15 **/
16/*****************************************************************************/
17
18#include "config.h"
19
20#include "cf_assert.h"
21#include "debug.h"
22#include "timing.h"
23
24#include "facFqFactorizeUtil.h"
25#include "facFqFactorize.h"
26#include "cf_random.h"
27#include "facHensel.h"
28#include "cf_gcd_smallp.h"
29#include "cf_map_ext.h"
30#include "algext.h"
31#include "facSparseHensel.h"
32#include "facMul.h"
33
34#ifdef HAVE_NTL
35#include "NTLconvert.h"
36
37TIMING_DEFINE_PRINT(fac_fq_bi_factorizer)
38TIMING_DEFINE_PRINT(fac_fq_hensel_lift)
39TIMING_DEFINE_PRINT(fac_fq_factor_recombination)
40
41static inline
42CanonicalForm
43listGCD (const CFList& L);
44
45static inline
46CanonicalForm
47myContent (const CanonicalForm& F)
48{
49  Variable x= Variable (1);
50  CanonicalForm G= swapvar (F, F.mvar(), x);
51  CFList L;
52  for (CFIterator i= G; i.hasTerms(); i++)
53    L.append (i.coeff());
54  if (L.length() == 2)
55    return swapvar (gcd (L.getFirst(), L.getLast()), F.mvar(), x);
56  if (L.length() == 1)
57    return LC (F, x);
58  return swapvar (listGCD (L), F.mvar(), x);
59}
60
61static inline
62CanonicalForm
63listGCD (const CFList& L)
64{
65  if (L.length() == 1)
66    return L.getFirst();
67  if (L.length() == 2)
68    return gcd (L.getFirst(), L.getLast());
69  else
70  {
71    CFList lHi, lLo;
72    CanonicalForm resultHi, resultLo;
73    int length= L.length()/2;
74    int j= 0;
75    for (CFListIterator i= L; j < length; i++, j++)
76      lHi.append (i.getItem());
77    lLo= Difference (L, lHi);
78    resultHi= listGCD (lHi);
79    resultLo= listGCD (lLo);
80    if (resultHi.isOne() || resultLo.isOne())
81      return 1;
82    return gcd (resultHi, resultLo);
83  }
84}
85
86static inline
87CanonicalForm
88myContent (const CanonicalForm& F, const Variable& x)
89{
90  if (degree (F, x) <= 0)
91    return 1;
92  CanonicalForm G= F;
93  bool swap= false;
94  if (x != F.mvar())
95  {
96    swap= true;
97    G= swapvar (F, x, F.mvar());
98  }
99  CFList L;
100  Variable alpha;
101  for (CFIterator i= G; i.hasTerms(); i++)
102    L.append (i.coeff());
103  if (L.length() == 2)
104  {
105    if (swap)
106      return swapvar (gcd (L.getFirst(), L.getLast()), F.mvar(), x);
107    else
108      return gcd (L.getFirst(), L.getLast());
109  }
110  if (L.length() == 1)
111  {
112    return LC (F, x);
113  }
114  if (swap)
115    return swapvar (listGCD (L), F.mvar(), x);
116  else
117    return listGCD (L);
118}
119
120CanonicalForm myCompress (const CanonicalForm& F, CFMap& N)
121{
122  int n= F.level();
123  int * degsf= new int [n + 1];
124  int ** swap;
125  swap= new int* [n + 1];
126  for (int i= 0; i <= n; i++)
127  {
128    degsf[i]= 0;
129    swap [i]= new int [2];
130    swap [i] [0]= 0;
131    swap [i] [1]= 0;
132  }
133  int i= 1;
134  n= 1;
135  degsf= degrees (F, degsf);
136
137  CanonicalForm result= F;
138  while ( i <= F.level() )
139  {
140    while( degsf[i] == 0 ) i++;
141    swap[n][0]= i;
142    swap[n][1]= degsf[i];
143    if (i != n)
144      result= swapvar (result, Variable (n), Variable(i));
145    n++; i++;
146  }
147
148  int buf1, buf2;
149  n--;
150
151  for (i= 1; i < n; i++)
152  {
153    for (int j= 1; j < n - i + 1; j++)
154    {
155      if (swap[j][1] < swap[j + 1][1])
156      {
157        buf1= swap [j + 1] [0];
158        buf2= swap [j + 1] [1];
159        swap[j + 1] [0]= swap[j] [0];
160        swap[j + 1] [1]= swap[j] [1];
161        swap[j][0]= buf1;
162        swap[j][1]= buf2;
163        result= swapvar (result, Variable (j + 1), Variable (j));
164      }
165    }
166  }
167
168  for (i= n; i > 0; i--)
169  {
170    if (i != swap[i] [0])
171      N.newpair (Variable (i), Variable (swap[i] [0]));
172  }
173
174  for (i= 0; i <= n; i++)
175    delete [] swap[i];
176  delete [] swap;
177
178  delete [] degsf;
179
180  return result;
181}
182
183CFList
184extFactorRecombination (const CFList& factors, const CanonicalForm& F,
185                        const CFList& M, const ExtensionInfo& info,
186                        const CFList& evaluation)
187{
188  Variable alpha= info.getAlpha();
189  Variable beta= info.getBeta();
190  CanonicalForm gamma= info.getGamma();
191  CanonicalForm delta= info.getDelta();
192  int k= info.getGFDegree();
193  CFList source, dest;
194  if (factors.length() == 1)
195  {
196    CanonicalForm buf= reverseShift (F, evaluation);
197    return CFList (mapDown (buf, info, source, dest));
198  }
199  if (factors.length() < 1)
200    return CFList();
201
202  int degMipoBeta= 1;
203  if (!k && beta.level() != 1)
204    degMipoBeta= degree (getMipo (beta));
205
206  CFList T, S;
207  T= factors;
208
209  int s= 1;
210  CFList result;
211  CanonicalForm buf;
212
213  buf= F;
214
215  Variable x= Variable (1);
216  CanonicalForm g, LCBuf= LC (buf, x);
217  CanonicalForm buf2, quot;
218  int * v= new int [T.length()];
219  for (int i= 0; i < T.length(); i++)
220    v[i]= 0;
221  bool noSubset= false;
222  CFArray TT;
223  TT= copy (factors);
224  bool recombination= false;
225  bool trueFactor= false;
226  while (T.length() >= 2*s)
227  {
228    while (noSubset == false)
229    {
230      if (T.length() == s)
231      {
232        delete [] v;
233        if (recombination)
234        {
235          T.insert (LCBuf);
236          g= prodMod (T, M);
237          T.removeFirst();
238          result.append (g/myContent (g));
239          g= reverseShift (g, evaluation);
240          g /= Lc (g);
241          appendTestMapDown (result, g, info, source, dest);
242          return result;
243        }
244        else
245        {
246          buf= reverseShift (buf, evaluation);
247          return CFList (buf);
248        }
249      }
250
251      S= subset (v, s, TT, noSubset);
252      if (noSubset) break;
253
254      S.insert (LCBuf);
255      g= prodMod (S, M);
256      S.removeFirst();
257      g /= myContent (g);
258      if (fdivides (g, buf, quot))
259      {
260        buf2= reverseShift (g, evaluation);
261        buf2 /= Lc (buf2);
262        if (!k && beta == x)
263        {
264          if (degree (buf2, alpha) < degMipoBeta)
265          {
266            appendTestMapDown (result, buf2, info, source, dest);
267            buf= quot;
268            LCBuf= LC (buf, x);
269            recombination= true;
270            trueFactor= true;
271          }
272        }
273        else
274        {
275          if (!isInExtension (buf2, gamma, k, delta, source, dest))
276          {
277            appendTestMapDown (result, buf2, info, source, dest);
278            buf /= g;
279            LCBuf= LC (buf, x);
280            recombination= true;
281            trueFactor= true;
282          }
283        }
284
285        if (trueFactor)
286        {
287          T= Difference (T, S);
288
289          if (T.length() < 2*s || T.length() == s)
290          {
291            buf= reverseShift (buf, evaluation);
292            buf /= Lc (buf);
293            appendTestMapDown (result, buf, info, source, dest);
294            delete [] v;
295            return result;
296          }
297          trueFactor= false;
298          TT= copy (T);
299          indexUpdate (v, s, T.length(), noSubset);
300          if (noSubset) break;
301        }
302      }
303    }
304    s++;
305    if (T.length() < 2*s || T.length() == s)
306    {
307      buf= reverseShift (buf, evaluation);
308      appendTestMapDown (result, buf, info, source, dest);
309      delete [] v;
310      return result;
311    }
312    for (int i= 0; i < T.length(); i++)
313      v[i]= 0;
314    noSubset= false;
315  }
316  if (T.length() < 2*s)
317  {
318    buf= reverseShift (F, evaluation);
319    appendMapDown (result, buf, info, source, dest);
320  }
321
322  delete [] v;
323  return result;
324}
325
326CFList
327factorRecombination (const CanonicalForm& F, const CFList& factors,
328                     const CFList& M)
329{
330  if (factors.length() == 1)
331    return CFList(F);
332  if (factors.length() < 1)
333    return CFList();
334
335  CFList T, S;
336
337  T= factors;
338
339  int s= 1;
340  CFList result;
341  CanonicalForm LCBuf= LC (F, Variable (1));
342  CanonicalForm g, buf= F;
343  int * v= new int [T.length()];
344  for (int i= 0; i < T.length(); i++)
345    v[i]= 0;
346  bool noSubset= false;
347  CFArray TT;
348  TT= copy (factors);
349  Variable y= F.level() - 1;
350  bool recombination= false;
351  CanonicalForm h, quot;
352  while (T.length() >= 2*s)
353  {
354    while (noSubset == false)
355    {
356      if (T.length() == s)
357      {
358        delete [] v;
359        if (recombination)
360        {
361          T.insert (LC (buf));
362          g= prodMod (T, M);
363          result.append (g/myContent (g));
364          return result;
365        }
366        else
367          return CFList (F);
368      }
369      S= subset (v, s, TT, noSubset);
370      if (noSubset) break;
371      S.insert (LCBuf);
372      g= prodMod (S, M);
373      S.removeFirst();
374      g /= myContent (g);
375      if (fdivides (g, buf, quot))
376      {
377        recombination= true;
378        result.append (g);
379        buf= quot;
380        LCBuf= LC (buf, Variable(1));
381        T= Difference (T, S);
382        if (T.length() < 2*s || T.length() == s)
383        {
384          result.append (buf);
385          delete [] v;
386          return result;
387        }
388        TT= copy (T);
389        indexUpdate (v, s, T.length(), noSubset);
390        if (noSubset) break;
391      }
392    }
393    s++;
394    if (T.length() < 2*s || T.length() == s)
395    {
396      result.append (buf);
397      delete [] v;
398      return result;
399    }
400    for (int i= 0; i < T.length(); i++)
401      v[i]= 0;
402    noSubset= false;
403  }
404  if (T.length() < 2*s)
405    result.append (F);
406
407  delete [] v;
408  return result;
409}
410
411int
412liftBoundAdaption (const CanonicalForm& F, const CFList& factors, bool&
413                   success, const int deg, const CFList& MOD, const int bound)
414{
415  int adaptedLiftBound= 0;
416  CanonicalForm buf= F;
417  Variable y= F.mvar();
418  Variable x= Variable (1);
419  CanonicalForm LCBuf= LC (buf, x);
420  CanonicalForm g, quot;
421  CFList M= MOD;
422  M.append (power (y, deg));
423  int d= bound;
424  int e= 0;
425  int nBuf;
426  for (CFListIterator i= factors; i.hasItem(); i++)
427  {
428    g= mulMod (i.getItem(), LCBuf, M);
429    g /= myContent (g);
430    if (fdivides (g, buf, quot))
431    {
432      nBuf= degree (g, y) + degree (LC (g, 1), y);
433      d -= nBuf;
434      e= tmax (e, nBuf);
435      buf= quot;
436      LCBuf= LC (buf, x);
437    }
438  }
439  adaptedLiftBound= d;
440
441  if (adaptedLiftBound < deg)
442  {
443    if (adaptedLiftBound < degree (F) + 1)
444    {
445      if (d == 1)
446      {
447        if (e + 1 > deg)
448        {
449          adaptedLiftBound= deg;
450          success= false;
451        }
452        else
453        {
454          success= true;
455          if (e + 1 < degree (F) + 1)
456            adaptedLiftBound= deg;
457          else
458            adaptedLiftBound= e + 1;
459        }
460      }
461      else
462      {
463        success= true;
464        adaptedLiftBound= deg;
465      }
466    }
467    else
468    {
469      success= true;
470    }
471  }
472  return adaptedLiftBound;
473}
474
475int
476extLiftBoundAdaption (const CanonicalForm& F, const CFList& factors, bool&
477                      success, const ExtensionInfo& info, const CFList& eval,
478                      const int deg, const CFList& MOD, const int bound)
479{
480  Variable alpha= info.getAlpha();
481  Variable beta= info.getBeta();
482  CanonicalForm gamma= info.getGamma();
483  CanonicalForm delta= info.getDelta();
484  int k= info.getGFDegree();
485  int adaptedLiftBound= 0;
486  CanonicalForm buf= F;
487  Variable y= F.mvar();
488  Variable x= Variable (1);
489  CanonicalForm LCBuf= LC (buf, x);
490  CanonicalForm g, gg, quot;
491  CFList M= MOD;
492  M.append (power (y, deg));
493  adaptedLiftBound= 0;
494  int d= bound;
495  int e= 0;
496  int nBuf;
497  int degMipoBeta= 1;
498  if (!k && beta.level() != 1)
499    degMipoBeta= degree (getMipo (beta));
500
501  CFList source, dest;
502  for (CFListIterator i= factors; i.hasItem(); i++)
503  {
504    g= mulMod (i.getItem(), LCBuf, M);
505    g /= myContent (g);
506    if (fdivides (g, buf, quot))
507    {
508      gg= reverseShift (g, eval);
509      gg /= Lc (gg);
510      if (!k && beta == x)
511      {
512        if (degree (gg, alpha) < degMipoBeta)
513        {
514          buf= quot;
515          nBuf= degree (g, y) + degree (LC (g, x), y);
516          d -= nBuf;
517          e= tmax (e, nBuf);
518          LCBuf= LC (buf, x);
519        }
520      }
521      else
522      {
523        if (!isInExtension (gg, gamma, k, delta, source, dest))
524        {
525          buf= quot;
526          nBuf= degree (g, y) + degree (LC (g, x), y);
527          d -= nBuf;
528          e= tmax (e, nBuf);
529          LCBuf= LC (buf, x);
530        }
531      }
532    }
533  }
534  adaptedLiftBound= d;
535
536  if (adaptedLiftBound < deg)
537  {
538    if (adaptedLiftBound < degree (F) + 1)
539    {
540      if (d == 1)
541      {
542        if (e + 1 > deg)
543        {
544          adaptedLiftBound= deg;
545          success= false;
546        }
547        else
548        {
549          success= true;
550          if (e + 1 < degree (F) + 1)
551            adaptedLiftBound= deg;
552          else
553            adaptedLiftBound= e + 1;
554        }
555      }
556      else
557      {
558        success= true;
559        adaptedLiftBound= deg;
560      }
561    }
562    else
563    {
564      success= true;
565    }
566  }
567
568  return adaptedLiftBound;
569}
570
571CFList
572earlyFactorDetect (CanonicalForm& F, CFList& factors, int& adaptedLiftBound,
573                   bool& success, const int deg, const CFList& MOD,
574                   const int bound)
575{
576  CFList result;
577  CFList T= factors;
578  CanonicalForm buf= F;
579  Variable y= F.mvar();
580  Variable x= Variable (1);
581  CanonicalForm LCBuf= LC (buf, x);
582  CanonicalForm g, quot;
583  CFList M= MOD;
584  M.append (power (y, deg));
585  adaptedLiftBound= 0;
586  int d= bound;
587  int e= 0;
588  int nBuf;
589  for (CFListIterator i= factors; i.hasItem(); i++)
590  {
591    g= mulMod (i.getItem(), LCBuf, M);
592    g /= myContent (g);
593    if (fdivides (g, buf, quot))
594    {
595      result.append (g);
596      nBuf= degree (g, y) + degree (LC (g, x), y);
597      d -= nBuf;
598      e= tmax (e, nBuf);
599      buf= quot;
600      LCBuf= LC (buf, x);
601      T= Difference (T, CFList (i.getItem()));
602    }
603  }
604  adaptedLiftBound= d;
605
606  if (adaptedLiftBound < deg)
607  {
608    if (adaptedLiftBound < degree (F) + 1)
609    {
610      if (d == 1)
611        adaptedLiftBound= tmin (e + 1, deg);
612      else
613        adaptedLiftBound= deg;
614    }
615    factors= T;
616    F= buf;
617    success= true;
618  }
619  return result;
620}
621
622CFList
623extEarlyFactorDetect (CanonicalForm& F, CFList& factors, int& adaptedLiftBound,
624                      bool& success, const ExtensionInfo& info, const CFList&
625                      eval, const int deg, const CFList& MOD, const int bound)
626{
627  Variable alpha= info.getAlpha();
628  Variable beta= info.getBeta();
629  CanonicalForm gamma= info.getGamma();
630  CanonicalForm delta= info.getDelta();
631  int k= info.getGFDegree();
632  CFList result;
633  CFList T= factors;
634  CanonicalForm buf= F;
635  Variable y= F.mvar();
636  Variable x= Variable (1);
637  CanonicalForm LCBuf= LC (buf, x);
638  CanonicalForm g, gg, quot;
639  CFList M= MOD;
640  M.append (power (y, deg));
641  adaptedLiftBound= 0;
642  int d= bound;
643  int e= 0;
644  int nBuf;
645  CFList source, dest;
646
647  int degMipoBeta= 1;
648  if (!k && beta.level() != 1)
649    degMipoBeta= degree (getMipo (beta));
650
651  for (CFListIterator i= factors; i.hasItem(); i++)
652  {
653    g= mulMod (i.getItem(), LCBuf, M);
654    g /= myContent (g);
655    if (fdivides (g, buf, quot))
656    {
657      gg= reverseShift (g, eval);
658      gg /= Lc (gg);
659      if (!k && beta == x)
660      {
661        if (degree (gg, alpha) < degMipoBeta)
662        {
663          appendTestMapDown (result, gg, info, source, dest);
664          buf= quot;
665          nBuf= degree (g, y) + degree (LC (g, x), y);
666          d -= nBuf;
667          e= tmax (e, nBuf);
668          LCBuf= LC (buf, x);
669          T= Difference (T, CFList (i.getItem()));
670        }
671      }
672      else
673      {
674        if (!isInExtension (gg, gamma, k, delta, source, dest))
675        {
676          appendTestMapDown (result, gg, info, source, dest);
677          buf= quot;
678          nBuf= degree (g, y) + degree (LC (g, x), y);
679          d -= nBuf;
680          e= tmax (e, nBuf);
681          LCBuf= LC (buf, x);
682          T= Difference (T, CFList (i.getItem()));
683         }
684      }
685    }
686  }
687  adaptedLiftBound= d;
688
689  if (adaptedLiftBound < deg)
690  {
691    if (adaptedLiftBound < degree (F) + 1)
692    {
693      if (d == 1)
694        adaptedLiftBound= tmin (e + 1, deg);
695      else
696        adaptedLiftBound= deg;
697    }
698    success= true;
699    factors= T;
700    F= buf;
701  }
702  return result;
703}
704
705CFList
706evalPoints (const CanonicalForm& F, CFList & eval, const Variable& alpha,
707            CFList& list, const bool& GF, bool& fail)
708{
709  int k= F.level() - 1;
710  Variable x= Variable (1);
711  CFList result;
712  FFRandom genFF;
713  GFRandom genGF;
714  int p= getCharacteristic ();
715  double bound;
716  if (alpha != x)
717  {
718    bound= pow ((double) p, (double) degree (getMipo(alpha)));
719    bound= pow ((double) bound, (double) k);
720  }
721  else if (GF)
722  {
723    bound= pow ((double) p, (double) getGFDegree());
724    bound= pow ((double) bound, (double) k);
725  }
726  else
727    bound= pow ((double) p, (double) k);
728
729  CanonicalForm random;
730  CanonicalForm deriv_x, gcd_deriv;
731  do
732  {
733    random= 0;
734    // possible overflow if list.length() does not fit into a int
735    if (list.length() >= bound)
736    {
737      fail= true;
738      break;
739    }
740    for (int i= 0; i < k; i++)
741    {
742      if (list.isEmpty())
743        result.append (0);
744      else if (GF)
745      {
746        result.append (genGF.generate());
747        random += result.getLast()*power (x, i);
748      }
749      else if (alpha.level() != 1)
750      {
751        AlgExtRandomF genAlgExt (alpha);
752        result.append (genAlgExt.generate());
753        random += result.getLast()*power (x, i);
754      }
755      else
756      {
757        result.append (genFF.generate());
758        random += result.getLast()*power (x, i);
759      }
760    }
761    if (find (list, random))
762    {
763      result= CFList();
764      continue;
765    }
766    int l= F.level();
767    eval.insert (F);
768    bool bad= false;
769    for (CFListIterator i= result; i.hasItem(); i++, l--)
770    {
771      eval.insert (eval.getFirst()(i.getItem(), l));
772      if (degree (eval.getFirst(), l - 1) != degree (F, l - 1))
773      {
774        if (!find (list, random))
775          list.append (random);
776        result= CFList();
777        eval= CFList();
778        bad= true;
779        break;
780      }
781    }
782
783    if (bad)
784      continue;
785
786    if (degree (eval.getFirst()) != degree (F, 1))
787    {
788      if (!find (list, random))
789        list.append (random);
790      result= CFList();
791      eval= CFList();
792      continue;
793    }
794
795    deriv_x= deriv (eval.getFirst(), x);
796    gcd_deriv= gcd (eval.getFirst(), deriv_x);
797    if (degree (gcd_deriv) > 0)
798    {
799      if (!find (list, random))
800        list.append (random);
801      result= CFList();
802      eval= CFList();
803      continue;
804    }
805    CFListIterator i= eval;
806    i++;
807    CanonicalForm contentx= content (i.getItem(), x);
808    if (degree (contentx) > 0)
809    {
810      if (!find (list, random))
811        list.append (random);
812      result= CFList();
813      eval= CFList();
814      continue;
815    }
816
817    if (list.length() >= bound)
818    {
819      fail= true;
820      break;
821    }
822  } while (find (list, random));
823
824  if (!eval.isEmpty())
825    eval.removeFirst();
826
827  return result;
828}
829
830static inline
831int newMainVariableSearch (CanonicalForm& A, CFList& Aeval, CFList&
832                           evaluation, const Variable& alpha, const int lev,
833                           CanonicalForm& g
834                          )
835{
836  Variable x= Variable (1);
837  CanonicalForm derivI, buf;
838  bool GF= (CFFactory::gettype() == GaloisFieldDomain);
839  int swapLevel= 0;
840  CFList list;
841  bool fail= false;
842  buf= A;
843  Aeval= CFList();
844  evaluation= CFList();
845  for (int i= lev; i <= A.level(); i++)
846  {
847    derivI= deriv (buf, Variable (i));
848    if (!derivI.isZero())
849    {
850      g= gcd (buf, derivI);
851      if (degree (g) > 0)
852        return -1;
853
854      buf= swapvar (buf, x, Variable (i));
855      Aeval= CFList();
856      evaluation= CFList();
857      fail= false;
858      evaluation= evalPoints (buf, Aeval, alpha, list, GF, fail);
859      if (!fail)
860      {
861        A= buf;
862        swapLevel= i;
863        break;
864      }
865      else
866        buf= A;
867    }
868  }
869  return swapLevel;
870}
871
872CanonicalForm lcmContent (const CanonicalForm& A, CFList& contentAi)
873{
874  int i= A.level();
875  contentAi.append (myContent (A, i));
876  contentAi.append (myContent (A, i - 1));
877  CanonicalForm result= lcm (contentAi.getFirst(), contentAi.getLast());
878  for (i= i - 2; i > 0; i--)
879  {
880    contentAi.append (content (A, i));
881    result= lcm (result, contentAi.getLast());
882  }
883  return result;
884}
885
886CFList
887henselLiftAndEarly (CanonicalForm& A, CFList& MOD, int*& liftBounds, bool&
888                    earlySuccess, CFList& earlyFactors, const CFList& Aeval,
889                    const CFList& biFactors, const CFList& evaluation,
890                    const ExtensionInfo& info)
891{
892  bool extension= info.isInExtension();
893  CFList bufFactors= biFactors;
894  bufFactors.insert (LC (Aeval.getFirst(), 1));
895
896  sortList (bufFactors, Variable (1));
897
898  CFList diophant;
899  CFArray Pi;
900  int smallFactorDeg= 11; //tunable parameter
901  CFList result;
902  int adaptedLiftBound= 0;
903  int liftBound= liftBounds[1];
904
905  earlySuccess= false;
906  CFList earlyReconstFactors;
907  CFListIterator j= Aeval;
908  j++;
909  CanonicalForm buf= j.getItem();
910  CFMatrix Mat= CFMatrix (liftBound, bufFactors.length() - 1);
911  MOD= CFList (power (Variable (2), liftBounds[0]));
912  if (smallFactorDeg >= liftBound)
913  {
914    result= henselLift23 (Aeval, bufFactors, liftBounds, diophant, Pi, Mat);
915  }
916  else if (smallFactorDeg >= degree (buf) + 1)
917  {
918    liftBounds[1]= degree (buf) + 1;
919    result= henselLift23 (Aeval, bufFactors, liftBounds, diophant, Pi, Mat);
920    if (Aeval.length() == 2)
921    {
922      if (!extension)
923        earlyFactors= earlyFactorDetect
924                       (buf, result, adaptedLiftBound, earlySuccess,
925                        degree (buf) + 1, MOD, liftBound);
926      else
927        earlyFactors= extEarlyFactorDetect
928                       (buf, result, adaptedLiftBound, earlySuccess,
929                        info, evaluation, degree
930                        (buf) + 1, MOD, liftBound);
931    }
932    else
933    {
934      if (!extension)
935        adaptedLiftBound= liftBoundAdaption (buf, result, earlySuccess,
936                                             degree (buf) + 1, MOD, liftBound);
937      else
938        adaptedLiftBound= extLiftBoundAdaption (buf, result, earlySuccess, info,
939                                                evaluation, degree (buf) + 1,
940                                                MOD, liftBound);
941    }
942    if (!earlySuccess)
943    {
944      result.insert (LC (buf, 1));
945      liftBounds[1]= adaptedLiftBound;
946      liftBound= adaptedLiftBound;
947      henselLiftResume (buf, result, degree (buf) + 1, liftBound,
948                        Pi, diophant, Mat, MOD);
949    }
950    else
951      liftBounds[1]= adaptedLiftBound;
952  }
953  else if (smallFactorDeg < degree (buf) + 1)
954  {
955    liftBounds[1]= smallFactorDeg;
956    result= henselLift23 (Aeval, bufFactors, liftBounds, diophant, Pi, Mat);
957    if (Aeval.length() == 2)
958    {
959      if (!extension)
960        earlyFactors= earlyFactorDetect (buf, result, adaptedLiftBound,
961                                         earlySuccess, smallFactorDeg, MOD,
962                                         liftBound);
963      else
964        earlyFactors= extEarlyFactorDetect (buf, result, adaptedLiftBound,
965                                            earlySuccess, info, evaluation,
966                                            smallFactorDeg, MOD, liftBound);
967    }
968    else
969    {
970      if (!extension)
971        adaptedLiftBound= liftBoundAdaption (buf, result, earlySuccess,
972                                             smallFactorDeg, MOD, liftBound);
973      else
974        adaptedLiftBound= extLiftBoundAdaption (buf, result, earlySuccess, info,
975                                                evaluation, smallFactorDeg, MOD,
976                                                liftBound);
977    }
978
979    if (!earlySuccess)
980    {
981      result.insert (LC (buf, 1));
982      henselLiftResume (buf, result, smallFactorDeg, degree (buf) + 1,
983                        Pi, diophant, Mat, MOD);
984      if (Aeval.length() == 2)
985      {
986         if (!extension)
987           earlyFactors= earlyFactorDetect (buf, result, adaptedLiftBound,
988                                            earlySuccess, degree (buf) + 1,
989                                            MOD, liftBound);
990         else
991           earlyFactors= extEarlyFactorDetect (buf, result, adaptedLiftBound,
992                                               earlySuccess, info, evaluation,
993                                               degree (buf) + 1, MOD,
994                                               liftBound);
995      }
996      else
997      {
998        if (!extension)
999          adaptedLiftBound= liftBoundAdaption (buf, result, earlySuccess,
1000                                               degree (buf) + 1, MOD,liftBound);
1001        else
1002          adaptedLiftBound= extLiftBoundAdaption (buf, result, earlySuccess,
1003                                                  info, evaluation,
1004                                                  degree (buf) + 1, MOD,
1005                                                  liftBound);
1006      }
1007      if (!earlySuccess)
1008      {
1009        result.insert (LC (buf, 1));
1010        liftBounds[1]= adaptedLiftBound;
1011        liftBound= adaptedLiftBound;
1012        henselLiftResume (buf, result, degree (buf) + 1, liftBound,
1013                          Pi, diophant, Mat, MOD);
1014      }
1015      else
1016        liftBounds[1]= adaptedLiftBound;
1017    }
1018    else
1019      liftBounds[1]= adaptedLiftBound;
1020  }
1021
1022  MOD.append (power (Variable (3), liftBounds[1]));
1023
1024  if (Aeval.length() > 2)
1025  {
1026    CFListIterator j= Aeval;
1027    j++;
1028    CFList bufEval;
1029    bufEval.append (j.getItem());
1030    j++;
1031    int liftBoundsLength= Aeval.getLast().level() - 1;
1032    for (int i= 2; i <= liftBoundsLength && j.hasItem(); i++, j++)
1033    {
1034      earlySuccess= false;
1035      result.insert (LC (bufEval.getFirst(), 1));
1036      bufEval.append (j.getItem());
1037      liftBound= liftBounds[i];
1038      Mat= CFMatrix (liftBounds[i], result.length() - 1);
1039
1040      buf= j.getItem();
1041      if (smallFactorDeg >= liftBound)
1042        result= henselLift (bufEval, result, MOD, diophant, Pi, Mat,
1043                            liftBounds[i -  1], liftBounds[i]);
1044      else if (smallFactorDeg >= degree (buf) + 1)
1045      {
1046        result= henselLift (bufEval, result, MOD, diophant, Pi, Mat,
1047                            liftBounds[i -  1], degree (buf) + 1);
1048
1049        if (Aeval.length() == i + 1)
1050        {
1051          if (!extension)
1052            earlyFactors= earlyFactorDetect
1053                           (buf, result, adaptedLiftBound, earlySuccess,
1054                            degree (buf) + 1, MOD, liftBound);
1055          else
1056            earlyFactors= extEarlyFactorDetect
1057                           (buf, result, adaptedLiftBound, earlySuccess,
1058                            info, evaluation, degree (buf) + 1, MOD, liftBound);
1059        }
1060        else
1061        {
1062          if (!extension)
1063            adaptedLiftBound= liftBoundAdaption
1064                                (buf, result, earlySuccess, degree (buf)
1065                                 + 1,  MOD, liftBound);
1066          else
1067            adaptedLiftBound= extLiftBoundAdaption
1068                                (buf, result, earlySuccess, info, evaluation,
1069                                 degree (buf) + 1, MOD, liftBound);
1070        }
1071
1072        if (!earlySuccess)
1073        {
1074          result.insert (LC (buf, 1));
1075          liftBounds[i]= adaptedLiftBound;
1076          liftBound= adaptedLiftBound;
1077          henselLiftResume (buf, result, degree (buf) + 1, liftBound,
1078                            Pi, diophant, Mat, MOD);
1079        }
1080        else
1081        {
1082          liftBounds[i]= adaptedLiftBound;
1083        }
1084      }
1085      else if (smallFactorDeg < degree (buf) + 1)
1086      {
1087        result= henselLift (bufEval, result, MOD, diophant, Pi, Mat,
1088                            liftBounds[i -  1], smallFactorDeg);
1089
1090        if (Aeval.length() == i + 1)
1091        {
1092          if (!extension)
1093            earlyFactors= earlyFactorDetect
1094                           (buf, result, adaptedLiftBound, earlySuccess,
1095                            smallFactorDeg, MOD, liftBound);
1096          else
1097            earlyFactors= extEarlyFactorDetect
1098                           (buf, result, adaptedLiftBound, earlySuccess,
1099                            info, evaluation, smallFactorDeg, MOD, liftBound);
1100        }
1101        else
1102        {
1103          if (!extension)
1104            adaptedLiftBound= liftBoundAdaption
1105                                (buf, result, earlySuccess,
1106                                 smallFactorDeg, MOD, liftBound);
1107          else
1108            adaptedLiftBound= extLiftBoundAdaption
1109                                (buf, result, earlySuccess, info, evaluation,
1110                                 smallFactorDeg, MOD, liftBound);
1111        }
1112
1113        if (!earlySuccess)
1114        {
1115          result.insert (LC (buf, 1));
1116          henselLiftResume (buf, result, smallFactorDeg,
1117                            degree (buf) + 1, Pi, diophant, Mat, MOD);
1118          if (Aeval.length() == i + 1)
1119          {
1120            if (!extension)
1121              earlyFactors= earlyFactorDetect
1122                             (buf, result, adaptedLiftBound, earlySuccess,
1123                              degree (buf) +  1,  MOD, liftBound);
1124            else
1125              earlyFactors= extEarlyFactorDetect
1126                             (buf, result, adaptedLiftBound, earlySuccess,
1127                              info, evaluation, degree (buf) + 1, MOD,
1128                              liftBound);
1129          }
1130          else
1131          {
1132            if (!extension)
1133              adaptedLiftBound= liftBoundAdaption
1134                                  (buf, result, earlySuccess, degree
1135                                   (buf) +  1,  MOD, liftBound);
1136            else
1137              adaptedLiftBound= extLiftBoundAdaption
1138                                  (buf, result, earlySuccess, info, evaluation,
1139                                   degree (buf) + 1,  MOD, liftBound);
1140          }
1141
1142          if (!earlySuccess)
1143          {
1144            result.insert (LC (buf, 1));
1145            liftBounds[i]= adaptedLiftBound;
1146            liftBound= adaptedLiftBound;
1147            henselLiftResume (buf, result, degree (buf) + 1, liftBound,
1148                              Pi, diophant, Mat, MOD);
1149          }
1150          else
1151            liftBounds[i]= adaptedLiftBound;
1152        }
1153        else
1154          liftBounds[i]= adaptedLiftBound;
1155      }
1156      MOD.append (power (Variable (i + 2), liftBounds[i]));
1157      bufEval.removeFirst();
1158    }
1159    bufFactors= result;
1160  }
1161  else
1162    bufFactors= result;
1163
1164  if (earlySuccess)
1165    A= buf;
1166  return result;
1167}
1168
1169void
1170gcdFreeBasis (CFFList& factors1, CFFList& factors2)
1171{
1172  CanonicalForm g;
1173  int k= factors1.length();
1174  int l= factors2.length();
1175  int n= 1;
1176  int m;
1177  CFFListIterator j;
1178  for (CFFListIterator i= factors1; (n < k && i.hasItem()); i++, n++)
1179  {
1180    m= 1;
1181    for (j= factors2; (m < l && j.hasItem()); j++, m++)
1182    {
1183      g= gcd (i.getItem().factor(), j.getItem().factor());
1184      if (degree (g,1) > 0)
1185      {
1186        j.getItem()= CFFactor (j.getItem().factor()/g, j.getItem().exp());
1187        i.getItem()= CFFactor (i.getItem().factor()/g, i.getItem().exp());
1188        factors1.append (CFFactor (g, i.getItem().exp()));
1189        factors2.append (CFFactor (g, j.getItem().exp()));
1190      }
1191    }
1192  }
1193}
1194
1195CFList
1196distributeContent (const CFList& L, const CFList* differentSecondVarFactors,
1197                   int length
1198                  )
1199{
1200  CFList l= L;
1201  CanonicalForm content= l.getFirst();
1202
1203  if (content.inCoeffDomain())
1204    return l;
1205
1206  if (l.length() == 1)
1207  {
1208    CFList result;
1209    for (int i= 0; i < length; i++)
1210    {
1211      if (differentSecondVarFactors[i].isEmpty())
1212        continue;
1213      if (result.isEmpty())
1214      {
1215        result= differentSecondVarFactors[i];
1216        for (CFListIterator iter= result; iter.hasItem(); iter++)
1217          content /= iter.getItem();
1218      }
1219      else
1220      {
1221        CFListIterator iter1= result;
1222        for (CFListIterator iter2= differentSecondVarFactors[i]; iter2.hasItem();
1223             iter2++, iter1++)
1224        {
1225          iter1.getItem() *= iter2.getItem();
1226          content /= iter2.getItem();
1227        }
1228      }
1229    }
1230    result.insert (content);
1231    return result;
1232  }
1233
1234  Variable v;
1235  CFListIterator iter1;
1236  CanonicalForm tmp, g;
1237  for (int i= 0; i < length; i++)
1238  {
1239    if (differentSecondVarFactors[i].isEmpty())
1240      continue;
1241    iter1= l;
1242    iter1++;
1243
1244    v= Variable (i + 3);
1245    for (CFListIterator iter2= differentSecondVarFactors[i]; iter2.hasItem();
1246         iter2++, iter1++)
1247    {
1248      if (degree (iter2.getItem(),v) == degree (iter1.getItem(),v))
1249        continue;
1250      tmp= iter1.getItem();
1251      for (int j= tmp.level(); j > 1; j--)
1252      {
1253        if (j == i + 3)
1254          continue;
1255        tmp= tmp (0, j);
1256      }
1257      g= gcd (iter2.getItem(), content);
1258      if (degree (g) > 0)
1259      {
1260        if (!tmp.isZero())
1261          iter2.getItem() /= tmp;
1262        content /= g;
1263        iter1.getItem() *= g;
1264      }
1265    }
1266  }
1267
1268  l.removeFirst();
1269  l.insert (content);
1270  return l;
1271}
1272
1273CFList evaluateAtZero (const CanonicalForm& F)
1274{
1275  CFList result;
1276  CanonicalForm buf= F;
1277  result.insert (buf);
1278  for (int i= F.level(); i > 2; i--)
1279  {
1280    buf= buf (0, i);
1281    result.insert (buf);
1282  }
1283  return result;
1284}
1285
1286CFList evaluateAtEval (const CanonicalForm& F, const CFArray& eval)
1287{
1288  CFList result;
1289  CanonicalForm buf= F;
1290  result.insert (buf);
1291  int k= eval.size();
1292  for (int i= 1; i < k; i++)
1293  {
1294    buf= buf (eval[i], i + 2);
1295    result.insert (buf);
1296  }
1297  return result;
1298}
1299
1300CFList evaluateAtEval (const CanonicalForm& F, const CFList& evaluation, int l)
1301{
1302  CFList result;
1303  CanonicalForm buf= F;
1304  result.insert (buf);
1305  int k= evaluation.length() + l - 1;
1306  CFListIterator j= evaluation;
1307  for (int i= k; j.hasItem() && i > l; i--, j++)
1308  {
1309    if (F.level() < i)
1310      continue;
1311    buf= buf (j.getItem(), i);
1312    result.insert (buf);
1313  }
1314  return result;
1315}
1316
1317int
1318testFactors (const CanonicalForm& G, const CFList& uniFactors,
1319             const Variable& alpha, CanonicalForm& sqrfPartF, CFList& factors,
1320             CFFList*& bufSqrfFactors, CFList& evalSqrfPartF,
1321             const CFArray& evalPoint)
1322{
1323  CanonicalForm tmp;
1324  CFListIterator j;
1325  for (CFListIterator i= uniFactors; i.hasItem(); i++)
1326  {
1327    tmp= i.getItem();
1328    if (i.hasItem())
1329      i++;
1330    else
1331      break;
1332    for (j= i; j.hasItem(); j++)
1333    {
1334      if (tmp == j.getItem())
1335        return 0;
1336    }
1337  }
1338
1339  CanonicalForm F= G;
1340  CFFList sqrfFactorization= squarefreeFactorization (F, alpha);
1341
1342  sqrfPartF= 1;
1343  for (CFFListIterator i= sqrfFactorization; i.hasItem(); i++)
1344    sqrfPartF *= i.getItem().factor();
1345
1346  evalSqrfPartF= evaluateAtEval (sqrfPartF, evalPoint);
1347
1348  CanonicalForm test= evalSqrfPartF.getFirst() (evalPoint[0], 2);
1349
1350  if (degree (test) != degree (sqrfPartF, 1))
1351    return 0;
1352
1353  CFFList sqrfFactors;
1354  CFList tmp2;
1355  int k= 0;
1356  factors= uniFactors;
1357  CFFListIterator iter;
1358  for (CFListIterator i= factors; i.hasItem(); i++, k++)
1359  {
1360    tmp= 1;
1361    sqrfFactors= squarefreeFactorization (i.getItem(), alpha);
1362
1363    for (iter= sqrfFactors; iter.hasItem(); iter++)
1364    {
1365      tmp2.append (iter.getItem().factor());
1366      tmp *= iter.getItem().factor();
1367    }
1368    i.getItem()= tmp/Lc(tmp);
1369    bufSqrfFactors [k]= sqrfFactors;
1370  }
1371
1372  for (int i= 0; i < factors.length() - 1; i++)
1373  {
1374    for (k= i + 1; k < factors.length(); k++)
1375    {
1376      gcdFreeBasis (bufSqrfFactors [i], bufSqrfFactors[k]);
1377    }
1378  }
1379
1380  factors= CFList();
1381  for (int i= 0; i < uniFactors.length(); i++)
1382  {
1383    if (i == 0)
1384    {
1385      for (iter= bufSqrfFactors [i]; iter.hasItem(); iter++)
1386      {
1387        if (iter.getItem().factor().inCoeffDomain())
1388          continue;
1389        iter.getItem()= CFFactor (iter.getItem().factor()/
1390                                  Lc (iter.getItem().factor()),
1391                                  iter.getItem().exp());
1392        factors.append (iter.getItem().factor());
1393      }
1394    }
1395    else
1396    {
1397      for (iter= bufSqrfFactors [i]; iter.hasItem(); iter++)
1398      {
1399        if (iter.getItem().factor().inCoeffDomain())
1400          continue;
1401        iter.getItem()= CFFactor (iter.getItem().factor()/
1402                                  Lc (iter.getItem().factor()),
1403                                  iter.getItem().exp());
1404        if (!find (factors, iter.getItem().factor()))
1405          factors.append (iter.getItem().factor());
1406      }
1407    }
1408  }
1409
1410  test= prod (factors);
1411  tmp= evalSqrfPartF.getFirst() (evalPoint[0],2);
1412  if (test/Lc (test) != tmp/Lc (tmp))
1413    return 0;
1414  else
1415    return 1;
1416}
1417
1418CFList
1419precomputeLeadingCoeff (const CanonicalForm& LCF, const CFList& LCFFactors,
1420                        const Variable& alpha, const CFList& evaluation,
1421                        CFList* & differentSecondVarLCs, int lSecondVarLCs,
1422                        Variable& y
1423                       )
1424{
1425  y= Variable (1);
1426  if (LCF.inCoeffDomain())
1427  {
1428    CFList result;
1429    for (int i= 1; i <= LCFFactors.length() + 1; i++)
1430      result.append (1);
1431    return result;
1432  }
1433
1434  CFMap N, M;
1435  CFArray dummy= CFArray (1);
1436  dummy [0]= LCF;
1437  compress (dummy, M, N);
1438  CanonicalForm F= M (LCF);
1439  if (LCF.isUnivariate())
1440  {
1441    CFList result;
1442    int LCFLevel= LCF.level();
1443    bool found= false;
1444    if (LCFLevel == 2)
1445    {
1446    //bivariate leading coefficients are already the true leading coefficients
1447      result= LCFFactors;
1448      found= true;
1449    }
1450    else
1451    {
1452      CFListIterator j;
1453      for (int i= 0; i < lSecondVarLCs; i++)
1454      {
1455        for (j= differentSecondVarLCs[i]; j.hasItem(); j++)
1456        {
1457          if (j.getItem().level() == LCFLevel)
1458          {
1459            found= true;
1460            break;
1461          }
1462        }
1463        if (found)
1464        {
1465          result= differentSecondVarLCs [i];
1466          break;
1467        }
1468      }
1469      if (!found)
1470        result= LCFFactors;
1471    }
1472    if (found)
1473      result.insert (Lc (LCF));
1474    else
1475      result.append (LCF);
1476    return result;
1477  }
1478
1479  CFList factors= LCFFactors;
1480
1481  for (CFListIterator i= factors; i.hasItem(); i++)
1482    i.getItem()= M (i.getItem());
1483
1484  CanonicalForm sqrfPartF;
1485  CFFList * bufSqrfFactors= new CFFList [factors.length()];
1486  CFList evalSqrfPartF, bufFactors;
1487  CFArray evalPoint= CFArray (evaluation.length() - 1);
1488  CFListIterator iter= evaluation;
1489  for (int i= evaluation.length() - 2; i > -1; i--, iter++)
1490    evalPoint[i]= iter.getItem();
1491
1492  int pass= testFactors (F, factors, alpha, sqrfPartF,
1493                         bufFactors, bufSqrfFactors, evalSqrfPartF, evalPoint);
1494
1495  bool foundDifferent= false;
1496  Variable z, x= y;
1497  int j= 0;
1498  if (!pass)
1499  {
1500    int lev= 0;
1501    // LCF is non-constant here
1502    CFList bufBufFactors;
1503    CanonicalForm bufF, swap;
1504    CFArray buf;
1505    for (int i= 0; i < lSecondVarLCs; i++)
1506    {
1507      if (!differentSecondVarLCs [i].isEmpty())
1508      {
1509        bool allConstant= true;
1510        for (iter= differentSecondVarLCs[i]; iter.hasItem(); iter++)
1511        {
1512          if (!iter.getItem().inCoeffDomain())
1513          {
1514            allConstant= false;
1515            y= Variable (iter.getItem().level());
1516            lev= M(y).level();
1517          }
1518        }
1519        if (allConstant)
1520          continue;
1521
1522        bufFactors= differentSecondVarLCs [i];
1523        for (iter= bufFactors; iter.hasItem(); iter++)
1524          iter.getItem()= swapvar (iter.getItem(), x, y);
1525        bufF= F;
1526        z= Variable (lev);
1527        bufF= swapvar (bufF, x, z);
1528        bufBufFactors= bufFactors;
1529        evalPoint= CFArray (evaluation.length() - 1);
1530        buf= CFArray (evaluation.length());
1531        iter= evaluation;
1532        int k= evaluation.length() - 1;
1533        for (; iter.hasItem(); iter++, k--)
1534          buf[k]= iter.getItem();
1535        swap= buf[z.level() - 1];
1536        buf[z.level() - 1]= buf[0];
1537        buf[0]= 0;
1538        int l= 0;
1539        for (k= 0; k < evaluation.length(); k++)
1540        {
1541          if (buf[k].isZero())
1542            continue;
1543          evalPoint[l]= buf[k];
1544          l++;
1545        }
1546        pass= testFactors (bufF, bufBufFactors, alpha, sqrfPartF, bufFactors,
1547                           bufSqrfFactors, evalSqrfPartF, evalPoint);
1548        if (pass)
1549        {
1550          foundDifferent= true;
1551          F= bufF;
1552          CFList l= factors;
1553          for (iter= l; iter.hasItem(); iter++)
1554            iter.getItem()= swapvar (iter.getItem(), x, y);
1555          differentSecondVarLCs [i]= l;
1556          j= i;
1557          break;
1558        }
1559        if (!pass && i == lSecondVarLCs - 1)
1560        {
1561          CFList result;
1562          result.append (LCF);
1563          for (int k= 1; k <= factors.length(); k++)
1564            result.append (LCF);
1565          y= Variable (1);
1566          delete [] bufSqrfFactors;
1567          return result;
1568        }
1569      }
1570    }
1571  }
1572  if (!pass)
1573  {
1574    CFList result;
1575    result.append (LCF);
1576    for (int k= 1; k <= factors.length(); k++)
1577      result.append (LCF);
1578    y= Variable (1);
1579    delete [] bufSqrfFactors;
1580    return result;
1581  }
1582  else
1583    factors= bufFactors;
1584
1585  bufFactors= factors;
1586  CFList evaluation2;
1587  if (y == x)
1588    evaluation2= evaluation;
1589  else
1590  {
1591    CanonicalForm tmp;
1592    evaluation2= evaluation;
1593    int i= evaluation.length() + 1;
1594    for (CFListIterator iter= evaluation2; iter.hasItem(); iter++, i--)
1595    {
1596      if (i == y.level())
1597      {
1598        tmp= iter.getItem();
1599        iter.getItem()= evaluation2.getLast();
1600        evaluation2.removeLast();
1601        evaluation2.append (tmp);
1602        break;
1603      }
1604    }
1605  }
1606
1607  CFList interMedResult;
1608  CanonicalForm oldSqrfPartF= sqrfPartF;
1609  sqrfPartF= shift2Zero (sqrfPartF, evalSqrfPartF, evaluation2, 1);
1610  if (factors.length() > 1)
1611  {
1612    CanonicalForm LC1= LC (oldSqrfPartF, 1);
1613    CFList leadingCoeffs;
1614    for (int i= 0; i < factors.length(); i++)
1615      leadingCoeffs.append (LC1);
1616
1617    CFList LC1eval= evaluateAtEval (LC1, evaluation2, 1);
1618    CFList oldFactors= factors;
1619    for (CFListIterator i= oldFactors; i.hasItem(); i++)
1620      i.getItem() *= LC1eval.getFirst()/Lc (i.getItem());
1621
1622    bool success= false;
1623    CanonicalForm oldSqrfPartFPowLC= oldSqrfPartF*power(LC1,factors.length()-1);
1624    if (size (oldSqrfPartFPowLC)/getNumVars (oldSqrfPartFPowLC) < 500 &&
1625        LucksWangSparseHeuristic (oldSqrfPartFPowLC,
1626                                  oldFactors, 1, leadingCoeffs, factors))
1627    {
1628      interMedResult= recoverFactors (oldSqrfPartF, factors);
1629      if (oldFactors.length() == interMedResult.length())
1630        success= true;
1631    }
1632    if (!success)
1633    {
1634      LC1= LC (evalSqrfPartF.getFirst(), 1);
1635
1636      CFArray leadingCoeffs= CFArray (factors.length());
1637      for (int i= 0; i < factors.length(); i++)
1638        leadingCoeffs[i]= LC1;
1639
1640      for (CFListIterator i= factors; i.hasItem(); i++)
1641      {
1642        i.getItem()= i.getItem() (x + evaluation2.getLast(), x);
1643        i.getItem() *= LC1 (0,2)/Lc (i.getItem());
1644      }
1645      factors.insert (1);
1646
1647      CanonicalForm
1648      newSqrfPartF= evalSqrfPartF.getFirst()*power (LC1, factors.length() - 2);
1649
1650      int liftBound= degree (newSqrfPartF,2) + 1;
1651
1652      CFMatrix M= CFMatrix (liftBound, factors.length() - 1);
1653      CFArray Pi;
1654      CFList diophant;
1655      nonMonicHenselLift12 (newSqrfPartF, factors, liftBound, Pi, diophant, M,
1656                            leadingCoeffs, false);
1657
1658      if (sqrfPartF.level() > 2)
1659      {
1660        int* liftBounds= new int [sqrfPartF.level() - 1];
1661        liftBounds [0]= liftBound;
1662        bool noOneToOne= false;
1663        CFList *leadingCoeffs2= new CFList [sqrfPartF.level()-2];
1664        LC1= LC (evalSqrfPartF.getLast(), 1);
1665        CFList LCs;
1666        for (int i= 0; i < factors.length(); i++)
1667          LCs.append (LC1);
1668        leadingCoeffs2 [sqrfPartF.level() - 3]= LCs;
1669        for (int i= sqrfPartF.level() - 1; i > 2; i--)
1670        {
1671          for (CFListIterator j= LCs; j.hasItem(); j++)
1672            j.getItem()= j.getItem() (0, i + 1);
1673          leadingCoeffs2 [i - 3]= LCs;
1674        }
1675        sqrfPartF *= power (LC1, factors.length()-1);
1676
1677        int liftBoundsLength= sqrfPartF.level() - 1;
1678        for (int i= 1; i < liftBoundsLength; i++)
1679          liftBounds [i]= degree (sqrfPartF, i + 2) + 1;
1680        evalSqrfPartF= evaluateAtZero (sqrfPartF);
1681        evalSqrfPartF.removeFirst();
1682        factors= nonMonicHenselLift (evalSqrfPartF, factors, leadingCoeffs2,
1683                 diophant, Pi, liftBounds, sqrfPartF.level() - 1, noOneToOne);
1684        delete [] leadingCoeffs2;
1685        delete [] liftBounds;
1686      }
1687      for (CFListIterator iter= factors; iter.hasItem(); iter++)
1688        iter.getItem()= reverseShift (iter.getItem(), evaluation2, 1);
1689
1690      interMedResult=
1691      recoverFactors (reverseShift(evalSqrfPartF.getLast(),evaluation2,1),
1692                      factors);
1693    }
1694  }
1695  else
1696  {
1697    CanonicalForm contF=content (oldSqrfPartF,1);
1698    factors= CFList (oldSqrfPartF/contF);
1699    interMedResult= recoverFactors (oldSqrfPartF, factors);
1700  }
1701
1702  CFList result;
1703  CFFListIterator k;
1704  for (int i= 0; i < LCFFactors.length(); i++)
1705  {
1706    CanonicalForm tmp= 1;
1707    for (k= bufSqrfFactors[i]; k.hasItem(); k++)
1708    {
1709      int pos= findItem (bufFactors, k.getItem().factor());
1710      if (pos)
1711        tmp *= power (getItem (interMedResult, pos), k.getItem().exp());
1712    }
1713    result.append (tmp);
1714  }
1715
1716  for (CFListIterator i= result; i.hasItem(); i++)
1717  {
1718    F /= i.getItem();
1719    if (foundDifferent)
1720      i.getItem()= swapvar (i.getItem(), x, z);
1721    i.getItem()= N (i.getItem());
1722  }
1723
1724  if (foundDifferent)
1725  {
1726    CFList l= differentSecondVarLCs [j];
1727    for (CFListIterator i= l; i.hasItem(); i++)
1728      i.getItem()= swapvar (i.getItem(), y, z);
1729    differentSecondVarLCs [j]= l;
1730    F= swapvar (F, x, z);
1731  }
1732
1733  result.insert (N (F));
1734
1735  result= distributeContent (result, differentSecondVarLCs, lSecondVarLCs);
1736
1737  if (!result.getFirst().inCoeffDomain())
1738  {
1739    CFListIterator i= result;
1740    CanonicalForm tmp;
1741    if (foundDifferent)
1742      i.getItem()= swapvar (i.getItem(), Variable (2), y);
1743
1744    tmp= i.getItem();
1745
1746    i++;
1747    for (; i.hasItem(); i++)
1748    {
1749      if (foundDifferent)
1750        i.getItem()= swapvar (i.getItem(), Variable (2), y)*tmp;
1751      else
1752        i.getItem() *= tmp;
1753    }
1754  }
1755  else
1756    y= Variable (1);
1757
1758  delete [] bufSqrfFactors;
1759
1760  return result;
1761}
1762
1763void
1764evaluationWRTDifferentSecondVars (CFList*& Aeval, const CFList& evaluation,
1765                                  const CanonicalForm& A)
1766{
1767  CanonicalForm tmp;
1768  CFList tmp2;
1769  CFListIterator iter;
1770  for (int i= A.level(); i > 2; i--)
1771  {
1772    tmp= A;
1773    tmp2= CFList();
1774    iter= evaluation;
1775    bool preserveDegree= true;
1776    for (int j= A.level(); j > 1; j--, iter++)
1777    {
1778      if (j == i)
1779        continue;
1780      else
1781      {
1782        tmp= tmp (iter.getItem(), j);
1783        tmp2.insert (tmp);
1784        if ((degree (tmp, i) != degree (A, i)) ||
1785            (degree (tmp, 1) != degree (A, 1)))
1786        {
1787          preserveDegree= false;
1788          break;
1789        }
1790        if (!content(tmp).inCoeffDomain() || !content(tmp,1).inCoeffDomain())
1791        {
1792          preserveDegree= false;
1793          break;
1794        }
1795      }
1796    }
1797    if (preserveDegree)
1798      Aeval [i - 3]= tmp2;
1799    else
1800      Aeval [i - 3]= CFList();
1801  }
1802}
1803
1804#endif
1805
1806static inline
1807CanonicalForm prodEval (const CFList& l, const CanonicalForm& evalPoint,
1808                        const Variable& v)
1809{
1810  CanonicalForm result= 1;
1811  for (CFListIterator i= l; i.hasItem(); i++)
1812    result *= i.getItem() (evalPoint, v);
1813  return result;
1814}
1815
1816//recombine bivariate factors in case one bivariate factorization yields less
1817// factors than the other
1818CFList
1819recombination (const CFList& factors1, const CFList& factors2, int s, int thres,
1820               const CanonicalForm& evalPoint, const Variable& x)
1821{
1822  CFList T, S;
1823
1824  T= factors1;
1825  CFList result;
1826  CanonicalForm buf;
1827  int * v= new int [T.length()];
1828  for (int i= 0; i < T.length(); i++)
1829    v[i]= 0;
1830  bool nosubset= false;
1831  CFArray TT;
1832  TT= copy (factors1);
1833  while (T.length() >= 2*s && s <= thres)
1834  {
1835    while (nosubset == false)
1836    {
1837      if (T.length() == s)
1838      {
1839        delete [] v;
1840        result.append (prod (T));
1841        return result;
1842      }
1843      S= subset (v, s, TT, nosubset);
1844      if (nosubset) break;
1845      buf= prodEval (S, evalPoint, x);
1846      buf /= Lc (buf);
1847      if (find (factors2, buf))
1848      {
1849        T= Difference (T, S);
1850        result.append (prod (S));
1851        TT= copy (T);
1852        indexUpdate (v, s, T.length(), nosubset);
1853        if (nosubset) break;
1854      }
1855    }
1856    s++;
1857    if (T.length() < 2*s || T.length() == s) 
1858    {
1859      delete [] v;
1860      result.append (prod (T));
1861      return result;
1862    }
1863    for (int i= 0; i < T.length(); i++)
1864      v[i]= 0;
1865    nosubset= false;
1866  }
1867
1868  delete [] v;
1869  if (T.length() < 2*s)
1870  {
1871    result.append (prod (T));
1872    return result;
1873  }
1874
1875  return result;
1876}
1877
1878#ifdef HAVE_NTL
1879void
1880factorizationWRTDifferentSecondVars (const CanonicalForm& A, CFList*& Aeval,
1881                                     const ExtensionInfo& info,
1882                                     int& minFactorsLength, bool& irred)
1883{
1884  Variable x= Variable (1);
1885  minFactorsLength= 0;
1886  irred= false;
1887  CFList factors;
1888  Variable v;
1889  for (int j= 0; j < A.level() - 2; j++)
1890  {
1891    if (!Aeval[j].isEmpty())
1892    {
1893      v= Variable (Aeval[j].getFirst().level());
1894      if (CFFactory::gettype() == GaloisFieldDomain)
1895        factors= GFBiSqrfFactorize (Aeval[j].getFirst());
1896      else if (info.getAlpha().level() == 1)
1897        factors= FpBiSqrfFactorize (Aeval[j].getFirst());
1898      else
1899        factors= FqBiSqrfFactorize (Aeval[j].getFirst(), info.getAlpha());
1900
1901      factors.removeFirst();
1902      if (minFactorsLength == 0)
1903        minFactorsLength= factors.length();
1904      else
1905        minFactorsLength= tmin (minFactorsLength, factors.length());
1906
1907      if (factors.length() == 1)
1908      {
1909        irred= true;
1910        return;
1911      }
1912      sortList (factors, x);
1913      Aeval [j]= factors;
1914    }
1915  }
1916}
1917
1918void getLeadingCoeffs (const CanonicalForm& A, CFList*& Aeval,
1919                       const CFList& uniFactors, const CFList& evaluation
1920                      )
1921{
1922  CanonicalForm evalPoint;
1923  int i;
1924  CFListIterator iter, iter2;
1925  Variable v;
1926  CFList l, LCs, buf;
1927  int pos;
1928  for (int j= 0; j < A.level() - 2; j++)
1929  {
1930    if (!Aeval[j].isEmpty())
1931    {
1932      i= A.level();
1933      for (iter= evaluation; iter.hasItem(); iter++, i--)
1934      {
1935        if (i == Aeval[j].getFirst().level())
1936        {
1937          evalPoint= iter.getItem();
1938          break;
1939        }
1940      }
1941
1942      v= Variable (i);
1943      if (Aeval[j].length() > uniFactors.length())
1944        Aeval[j]= recombination (Aeval[j], uniFactors, 1,
1945                                 Aeval[j].length() - uniFactors.length() + 1,
1946                                 evalPoint, v);
1947
1948      l= CFList();
1949      buf= buildUniFactors (Aeval[j], evalPoint, v);
1950      for (iter= uniFactors; iter.hasItem(); iter++)
1951      {
1952        pos= findItem (buf, iter.getItem());
1953        if (pos)
1954          l.append (getItem (Aeval[j], pos));
1955      }
1956      Aeval [j]= l;
1957
1958      LCs= CFList();
1959      for (iter= Aeval[j]; iter.hasItem(); iter++)
1960        LCs.append (LC (iter.getItem(), 1));
1961      normalize (LCs);
1962      Aeval[j]= LCs;
1963    }
1964  }
1965}
1966
1967CFList
1968buildUniFactors (const CFList& biFactors, const CanonicalForm& evalPoint,
1969                 const Variable& y)
1970{
1971  CFList result;
1972  CanonicalForm tmp;
1973  for (CFListIterator i= biFactors; i.hasItem(); i++)
1974  {
1975    tmp= mod (i.getItem(), y - evalPoint);
1976    tmp /= Lc (tmp);
1977    result.append (tmp);
1978  }
1979  return result;
1980}
1981
1982void refineBiFactors (const CanonicalForm& A, CFList& biFactors,
1983                      CFList* const& Aeval, const CFList& evaluation,
1984                      int minFactorsLength)
1985{
1986  CFListIterator iter;
1987  CanonicalForm evalPoint;
1988  int i;
1989  Variable v;
1990  Variable y= Variable (2);
1991  CFList list;
1992  for (int j= 0; j < A.level() - 2; j++)
1993  {
1994    if (Aeval[j].length() == minFactorsLength)
1995    {
1996      i= A.level();
1997
1998      for (iter= evaluation; iter.hasItem(); iter++, i--)
1999      {
2000        if (i == Aeval[j].getFirst().level())
2001        {
2002          evalPoint= iter.getItem();
2003          break;
2004        }
2005      }
2006
2007      v= Variable (i);
2008      list= buildUniFactors (Aeval[j], evalPoint, v);
2009
2010      biFactors= recombination (biFactors, list, 1,
2011                                biFactors.length() - list.length() + 1,
2012                                evaluation.getLast(), y);
2013      return;
2014    }
2015  }
2016}
2017
2018void prepareLeadingCoeffs (CFList*& LCs, int n, const CFList& leadingCoeffs,
2019                           const CFList& biFactors, const CFList& evaluation)
2020{
2021  CFList l= leadingCoeffs;
2022  LCs [n-3]= l;
2023  CFListIterator j;
2024  CFListIterator iter= evaluation;
2025  for (int i= n - 1; i > 2; i--, iter++)
2026  {
2027    for (j= l; j.hasItem(); j++)
2028      j.getItem()= j.getItem() (iter.getItem(), i + 1);
2029    LCs [i - 3]= l;
2030  }
2031  l= LCs [0];
2032  for (CFListIterator i= l; i.hasItem(); i++)
2033    i.getItem()= i.getItem() (iter.getItem(), 3);
2034  CFListIterator ii= biFactors;
2035  CFList normalizeFactor;
2036  for (CFListIterator i= l; i.hasItem(); i++, ii++)
2037    normalizeFactor.append (Lc (LC (ii.getItem(), 1))/Lc (i.getItem()));
2038  for (int i= 0; i < n-2; i++)
2039  {
2040    ii= normalizeFactor;
2041    for (j= LCs [i]; j.hasItem(); j++, ii++)
2042      j.getItem() *= ii.getItem();
2043  }
2044}
2045
2046CFList recoverFactors (const CanonicalForm& F, const CFList& factors)
2047{
2048  CFList result;
2049  CanonicalForm tmp, tmp2;
2050  CanonicalForm G= F;
2051  for (CFListIterator i= factors; i.hasItem(); i++)
2052  {
2053    tmp= i.getItem()/content (i.getItem(), 1);
2054    if (fdivides (tmp, G, tmp2))
2055    {
2056      G= tmp2;
2057      result.append (tmp);
2058    }
2059  }
2060  return result;
2061}
2062
2063CFList recoverFactors (const CanonicalForm& F, const CFList& factors,
2064                       const CFList& evaluation)
2065{
2066  CFList result;
2067  CanonicalForm tmp, tmp2;
2068  CanonicalForm G= F;
2069  for (CFListIterator i= factors; i.hasItem(); i++)
2070  {
2071    tmp= reverseShift (i.getItem(), evaluation);
2072    tmp /= content (tmp, 1);
2073    if (fdivides (tmp, G, tmp2))
2074    {
2075      G= tmp2;
2076      result.append (tmp);
2077    }
2078  }
2079  return result;
2080}
2081
2082CFList
2083extNonMonicFactorRecombination (const CFList& factors, const CanonicalForm& F,
2084                                const ExtensionInfo& info)
2085{
2086  Variable alpha= info.getAlpha();
2087  Variable beta= info.getBeta();
2088  CanonicalForm gamma= info.getGamma();
2089  CanonicalForm delta= info.getDelta();
2090  int k= info.getGFDegree();
2091  CFList source, dest;
2092
2093  int degMipoBeta= 1;
2094  if (!k && beta != Variable(1))
2095    degMipoBeta= degree (getMipo (beta));
2096
2097  CFList T, S;
2098  T= factors;
2099  int s= 1;
2100  CFList result;
2101  CanonicalForm quot, buf= F;
2102
2103  CanonicalForm g;
2104  CanonicalForm buf2;
2105  int * v= new int [T.length()];
2106  for (int i= 0; i < T.length(); i++)
2107    v[i]= 0;
2108  bool noSubset= false;
2109  CFArray TT;
2110  TT= copy (factors);
2111  bool recombination= false;
2112  bool trueFactor= false;
2113  while (T.length() >= 2*s)
2114  {
2115    while (noSubset == false)
2116    {
2117      if (T.length() == s)
2118      {
2119        delete [] v;
2120        if (recombination)
2121        {
2122          g= prod (T);
2123          T.removeFirst();
2124          result.append (g/myContent (g));
2125          g /= Lc (g);
2126          appendTestMapDown (result, g, info, source, dest);
2127          return result;
2128        }
2129        else
2130          return CFList (buf/myContent(buf));
2131      }
2132
2133      S= subset (v, s, TT, noSubset);
2134      if (noSubset) break;
2135
2136      g= prod (S);
2137      g /= myContent (g);
2138      if (fdivides (g, buf, quot))
2139      {
2140        buf2= g;
2141        buf2 /= Lc (buf2);
2142        if (!k && beta.level() == 1)
2143        {
2144          if (degree (buf2, alpha) < degMipoBeta)
2145          {
2146            appendTestMapDown (result, buf2, info, source, dest);
2147            buf= quot;
2148            recombination= true;
2149            trueFactor= true;
2150          }
2151        }
2152        else
2153        {
2154          if (!isInExtension (buf2, gamma, k, delta, source, dest))
2155          {
2156            appendTestMapDown (result, buf2, info, source, dest);
2157            buf= quot;
2158            recombination= true;
2159            trueFactor= true;
2160          }
2161        }
2162        if (trueFactor)
2163        {
2164          T= Difference (T, S);
2165
2166          if (T.length() < 2*s || T.length() == s)
2167          {
2168            delete [] v;
2169            buf /= myContent (buf);
2170            buf /= Lc (buf);
2171            appendTestMapDown (result, buf, info, source, dest);
2172            return result;
2173          }
2174          trueFactor= false;
2175          TT= copy (T);
2176          indexUpdate (v, s, T.length(), noSubset);
2177          if (noSubset) break;
2178        }
2179      }
2180    }
2181    s++;
2182    if (T.length() < 2*s || T.length() == s)
2183    {
2184      delete [] v;
2185      appendTestMapDown (result, buf/myContent(buf), info, source, dest);
2186      return result;
2187    }
2188    for (int i= 0; i < T.length(); i++)
2189      v[i]= 0;
2190    noSubset= false;
2191  }
2192  if (T.length() < 2*s)
2193    appendMapDown (result, F/myContent(F), info, source, dest);
2194
2195  delete [] v;
2196  return result;
2197}
2198
2199CFList
2200extFactorize (const CanonicalForm& F, const ExtensionInfo& info);
2201
2202CFList
2203multiFactorize (const CanonicalForm& F, const ExtensionInfo& info)
2204{
2205
2206  if (F.inCoeffDomain())
2207    return CFList (F);
2208
2209  // compress and find main Variable
2210  CFMap N;
2211  CanonicalForm A= myCompress (F, N);
2212
2213  A /= Lc (A); // make monic
2214
2215  Variable alpha= info.getAlpha();
2216  Variable beta= info.getBeta();
2217  CanonicalForm gamma= info.getGamma();
2218  CanonicalForm delta= info.getDelta();
2219  bool extension= info.isInExtension();
2220  bool GF= (CFFactory::gettype() == GaloisFieldDomain);
2221  //univariate case
2222  if (F.isUnivariate())
2223  {
2224    if (extension == false)
2225      return uniFactorizer (F, alpha, GF);
2226    else
2227    {
2228      CFList source, dest;
2229      A= mapDown (F, info, source, dest);
2230      return uniFactorizer (A, beta, GF);
2231    }
2232  }
2233
2234  //bivariate case
2235  if (A.level() == 2)
2236  {
2237    CFList buf= biFactorize (F, info);
2238    return buf;
2239  }
2240
2241  Variable x= Variable (1);
2242  Variable y= Variable (2);
2243
2244  // remove content
2245  CFList contentAi;
2246  CanonicalForm lcmCont= lcmContent (A, contentAi);
2247  A /= lcmCont;
2248
2249  // trivial after content removal
2250  CFList contentAFactors;
2251  if (A.inCoeffDomain())
2252  {
2253    for (CFListIterator i= contentAi; i.hasItem(); i++)
2254    {
2255      if (i.getItem().inCoeffDomain())
2256        continue;
2257      else
2258      {
2259        lcmCont /= i.getItem();
2260        contentAFactors=
2261        Union (multiFactorize (lcmCont, info),
2262               multiFactorize (i.getItem(), info));
2263        break;
2264      }
2265    }
2266    decompress (contentAFactors, N);
2267    normalize (contentAFactors);
2268    return contentAFactors;
2269  }
2270
2271  // factorize content
2272  contentAFactors= multiFactorize (lcmCont, info);
2273
2274  // univariate after content removal
2275  CFList factors;
2276  if (A.isUnivariate ())
2277  {
2278    factors= uniFactorizer (A, alpha, GF);
2279    append (factors, contentAFactors);
2280    decompress (factors, N);
2281    return factors;
2282  }
2283
2284  // check main variable
2285  int swapLevel= 0;
2286  CanonicalForm derivZ;
2287  CanonicalForm gcdDerivZ;
2288  CanonicalForm bufA= A;
2289  Variable z;
2290  for (int i= 1; i <= A.level(); i++)
2291  {
2292    z= Variable (i);
2293    derivZ= deriv (bufA, z);
2294    if (derivZ.isZero())
2295    {
2296      if (i == 1)
2297        swapLevel= 1;
2298      else
2299        continue;
2300    }
2301    else
2302    {
2303      if (swapLevel == 1)
2304      {
2305        swapLevel= i;
2306        bufA= swapvar (A, x, z);
2307      }
2308      gcdDerivZ= gcd (bufA, derivZ);
2309      if (degree (gcdDerivZ) > 0 && !derivZ.isZero())
2310      {
2311        CanonicalForm g= bufA/gcdDerivZ;
2312        CFList factorsG=
2313        Union (multiFactorize (g, info),
2314               multiFactorize (gcdDerivZ, info));
2315        appendSwapDecompress (factorsG, contentAFactors, N, swapLevel, x);
2316        normalize (factorsG);
2317        return factorsG;
2318      }
2319      else
2320      {
2321        A= bufA;
2322        break;
2323      }
2324    }
2325  }
2326
2327
2328  CFList Aeval, list, evaluation, bufEvaluation, bufAeval;
2329  bool fail= false;
2330  int swapLevel2= 0;
2331  int level;
2332  int factorNums= 3;
2333  CanonicalForm bivarEval;
2334  CFList biFactors, bufBiFactors;
2335  CanonicalForm evalPoly;
2336  int lift, bufLift;
2337  double logarithm= (double) ilog2 (totaldegree (A));
2338  logarithm /= log2exp;
2339  logarithm= ceil (logarithm);
2340  if (factorNums < (int) logarithm)
2341    factorNums= (int) logarithm;
2342  CFList* bufAeval2= new CFList [A.level() - 2];
2343  CFList* Aeval2= new CFList [A.level() - 2];
2344  int counter;
2345  int differentSecondVar= 0;
2346  // several bivariate factorizations
2347  for (int i= 0; i < factorNums; i++)
2348  {
2349    counter= 0;
2350    bufA= A;
2351    bufAeval= CFList();
2352    bufEvaluation= evalPoints (bufA, bufAeval, alpha, list, GF, fail);
2353    evalPoly= 0;
2354
2355    if (fail && (i == 0))
2356    {
2357      if (!swapLevel)
2358        level= 2;
2359      else
2360        level= swapLevel + 1;
2361
2362      CanonicalForm g;
2363      swapLevel2= newMainVariableSearch (A, Aeval, evaluation, alpha, level, g);
2364
2365      if (!swapLevel2) // need to pass to an extension
2366      {
2367        factors= extFactorize (A, info);
2368        appendSwapDecompress (factors, contentAFactors, N, swapLevel, x);
2369        normalize (factors);
2370        delete [] bufAeval2;
2371        delete [] Aeval2;
2372        return factors;
2373      }
2374      else
2375      {
2376        if (swapLevel2 == -1)
2377        {
2378          CFList factorsG=
2379          Union (multiFactorize (g, info),
2380                 multiFactorize (A/g, info));
2381          appendSwapDecompress (factorsG, contentAFactors, N, swapLevel, x);
2382          normalize (factorsG);
2383          delete [] bufAeval2;
2384          delete [] Aeval2;
2385          return factorsG;
2386        }
2387        fail= false;
2388        bufAeval= Aeval;
2389        bufA= A;
2390        bufEvaluation= evaluation;
2391      }
2392    }
2393    else if (fail && (i > 0))
2394      break;
2395
2396    bivarEval= bufEvaluation.getLast();
2397
2398    evaluationWRTDifferentSecondVars (bufAeval2, bufEvaluation, A);
2399
2400    for (int j= 0; j < A.level() - 2; j++)
2401    {
2402      if (!bufAeval2[j].isEmpty())
2403        counter++;
2404    }
2405
2406    bufLift= degree (A, y) + 1 + degree (LC(A, x), y);
2407
2408    TIMING_START (fac_fq_bi_factorizer);
2409    if (!GF && alpha.level() == 1)
2410      bufBiFactors= FpBiSqrfFactorize (bufAeval.getFirst());
2411    else if (GF)
2412      bufBiFactors= GFBiSqrfFactorize (bufAeval.getFirst());
2413    else
2414      bufBiFactors= FqBiSqrfFactorize (bufAeval.getFirst(), alpha);
2415    TIMING_END_AND_PRINT (fac_fq_bi_factorizer,
2416                          "time for bivariate factorization: ");
2417    bufBiFactors.removeFirst();
2418
2419    if (bufBiFactors.length() == 1)
2420    {
2421      if (extension)
2422      {
2423        CFList source, dest;
2424        A= mapDown (A, info, source, dest);
2425      }
2426      factors.append (A);
2427      appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2428                            swapLevel2, x);
2429      normalize (factors);
2430      delete [] bufAeval2;
2431      delete [] Aeval2;
2432      return factors;
2433    }
2434
2435    if (i == 0)
2436    {
2437      Aeval= bufAeval;
2438      evaluation= bufEvaluation;
2439      biFactors= bufBiFactors;
2440      lift= bufLift;
2441      for (int j= 0; j < A.level() - 2; j++)
2442        Aeval2 [j]= bufAeval2 [j];
2443      differentSecondVar= counter;
2444    }
2445    else
2446    {
2447      if (bufBiFactors.length() < biFactors.length() ||
2448          ((bufLift < lift) && (bufBiFactors.length() == biFactors.length())) ||
2449          counter > differentSecondVar)
2450      {
2451        Aeval= bufAeval;
2452        evaluation= bufEvaluation;
2453        biFactors= bufBiFactors;
2454        lift= bufLift;
2455        for (int j= 0; j < A.level() - 2; j++)
2456          Aeval2 [j]= bufAeval2 [j];
2457        differentSecondVar= counter;
2458      }
2459    }
2460    int k= 0;
2461    for (CFListIterator j= bufEvaluation; j.hasItem(); j++, k++)
2462      evalPoly += j.getItem()*power (x, k);
2463    list.append (evalPoly);
2464  }
2465
2466  delete [] bufAeval2;
2467
2468  sortList (biFactors, x);
2469
2470  int minFactorsLength;
2471  bool irred= false;
2472  factorizationWRTDifferentSecondVars (A, Aeval2, info, minFactorsLength, irred);
2473
2474  if (irred)
2475  {
2476    if (extension)
2477    {
2478      CFList source, dest;
2479      A= mapDown (A, info, source, dest);
2480    }
2481    factors.append (A);
2482    appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2483                          swapLevel2, x);
2484    normalize (factors);
2485    delete [] Aeval2;
2486    return factors;
2487  }
2488
2489  if (minFactorsLength == 0)
2490    minFactorsLength= biFactors.length();
2491  else if (biFactors.length() > minFactorsLength)
2492    refineBiFactors (A, biFactors, Aeval2, evaluation, minFactorsLength);
2493  minFactorsLength= tmin (minFactorsLength, biFactors.length());
2494
2495  if (differentSecondVar == A.level() - 2)
2496  {
2497    bool zeroOccured= false;
2498    for (CFListIterator iter= evaluation; iter.hasItem(); iter++)
2499    {
2500      if (iter.getItem().isZero())
2501      {
2502        zeroOccured= true;
2503        break;
2504      }
2505    }
2506    if (!zeroOccured)
2507    {
2508      factors= sparseHeuristic (A, biFactors, Aeval2, evaluation, minFactorsLength);
2509      if (factors.length() == biFactors.length())
2510      {
2511        if (extension)
2512          factors= extNonMonicFactorRecombination (factors, A, info);
2513
2514        appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2515                              swapLevel2, x);
2516        normalize (factors);
2517        delete [] Aeval2;
2518        return factors;
2519      }
2520      else
2521        factors= CFList();
2522      //TODO case where factors.length() > 0
2523    }
2524  }
2525
2526  CFList uniFactors= buildUniFactors (biFactors, evaluation.getLast(), y);
2527
2528  CFList * oldAeval= new CFList [A.level() - 2]; //TODO use bufAeval2 for this
2529  for (int i= 0; i < A.level() - 2; i++)
2530    oldAeval[i]= Aeval2[i];
2531
2532  getLeadingCoeffs (A, Aeval2, uniFactors, evaluation);
2533
2534  CFList biFactorsLCs;
2535  for (CFListIterator i= biFactors; i.hasItem(); i++)
2536    biFactorsLCs.append (LC (i.getItem(), 1));
2537
2538  Variable v;
2539  CFList leadingCoeffs= precomputeLeadingCoeff (LC (A, 1), biFactorsLCs, alpha,
2540                                          evaluation, Aeval2, A.level() - 2, v);
2541
2542  if (v.level() != 1)
2543  {
2544    A= swapvar (A, y, v);
2545    int i= A.level();
2546    CanonicalForm evalPoint;
2547    for (CFListIterator iter= evaluation; iter.hasItem(); iter++, i--)
2548    {
2549      if (i == v.level())
2550      {
2551        evalPoint= iter.getItem();
2552        iter.getItem()= evaluation.getLast();
2553        evaluation.removeLast();
2554        evaluation.append (evalPoint);
2555        break;
2556      }
2557    }
2558    for (i= 0; i < A.level() - 2; i++)
2559    {
2560      if (oldAeval[i].isEmpty())
2561        continue;
2562      if (oldAeval[i].getFirst().level() == v.level())
2563      {
2564        CFArray tmp= copy (oldAeval[i]);
2565        for (int ii= 0; ii < tmp.size(); ii++)
2566          tmp[ii]= swapvar (tmp[ii], v, y);
2567        CFArray tmp2= CFArray (tmp.size());
2568        CanonicalForm buf;
2569        for (int ii= 0; ii < tmp.size(); ii++)
2570        {
2571          buf= tmp[ii] (evaluation.getLast(),y);
2572          buf /= Lc (buf);
2573          tmp2[findItem (uniFactors, buf)-1]=tmp[ii];
2574        }
2575        biFactors= CFList();
2576        for (int j= 0; j < tmp2.size(); j++)
2577          biFactors.append (tmp2[j]);
2578      }
2579    }
2580  }
2581
2582  CFListIterator iter;
2583  CanonicalForm oldA= A;
2584  CFList oldBiFactors= biFactors;
2585  if (!leadingCoeffs.getFirst().inCoeffDomain())
2586  {
2587    CanonicalForm tmp= power (leadingCoeffs.getFirst(), biFactors.length() - 1);
2588    A *= tmp;
2589    tmp= leadingCoeffs.getFirst();
2590    iter= evaluation;
2591    for (int i= A.level(); i > 2; i--, iter++)
2592      tmp= tmp (iter.getItem(), i);
2593    if (!tmp.inCoeffDomain())
2594    {
2595      for (CFListIterator i= biFactors; i.hasItem(); i++)
2596      {
2597        i.getItem() *= tmp/LC (i.getItem(), 1);
2598        i.getItem() /= Lc (i.getItem());
2599      }
2600    }
2601  }
2602
2603  leadingCoeffs.removeFirst();
2604
2605  //prepare leading coefficients
2606  CFList* leadingCoeffs2= new CFList [A.level() - 2];
2607  prepareLeadingCoeffs (leadingCoeffs2, A.level(), leadingCoeffs, biFactors,
2608                        evaluation);
2609
2610  Aeval= evaluateAtEval (A, evaluation, 2);
2611  CanonicalForm hh= Lc (Aeval.getFirst());
2612  for (iter= Aeval; iter.hasItem(); iter++)
2613    iter.getItem() /= hh;
2614
2615  A /= hh;
2616
2617  if (size (A)/getNumVars (A) < 500 && 
2618      LucksWangSparseHeuristic (A, biFactors, 2, leadingCoeffs2 [A.level() - 3],
2619                                factors))
2620  {
2621    int check= factors.length();
2622    factors= recoverFactors (A, factors);
2623
2624    if (check == factors.length())
2625    {
2626      if (extension)
2627        factors= extNonMonicFactorRecombination (factors, A, info);
2628
2629      if (v.level() != 1)
2630      {
2631        for (CFListIterator iter= factors; iter.hasItem(); iter++)
2632          iter.getItem()= swapvar (iter.getItem(), v, y);
2633      }
2634      appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2635                            swapLevel2, x);
2636      normalize (factors);
2637      delete [] Aeval2;
2638      return factors;
2639    }
2640    else
2641      factors= CFList();
2642    //TODO handle this case
2643  }
2644
2645  A= shift2Zero (A, Aeval, evaluation);
2646
2647  for (iter= biFactors; iter.hasItem(); iter++)
2648    iter.getItem()= iter.getItem () (y + evaluation.getLast(), y);
2649
2650  for (int i= 0; i < A.level() - 2; i++)
2651  {
2652    if (i != A.level() - 3)
2653      leadingCoeffs2[i]= CFList();
2654  }
2655  for (iter= leadingCoeffs2[A.level() - 3]; iter.hasItem(); iter++)
2656  {
2657    iter.getItem()= shift2Zero (iter.getItem(), list, evaluation);
2658    for (int i= A.level() - 4; i > -1; i--)
2659    {
2660      if (i + 1 == A.level() - 3)
2661        leadingCoeffs2[i].append (iter.getItem() (0, i + 4));
2662      else
2663        leadingCoeffs2[i].append (leadingCoeffs2[i+1].getLast() (0, i + 4));
2664    }
2665  }
2666
2667  CFArray Pi;
2668  CFList diophant;
2669  int* liftBounds= new int [A.level() - 1];
2670  int liftBoundsLength= A.level() - 1;
2671  for (int i= 0; i < liftBoundsLength; i++)
2672    liftBounds [i]= degree (A, i + 2) + 1;
2673
2674  Aeval.removeFirst();
2675  bool noOneToOne= false;
2676  factors= nonMonicHenselLift (Aeval, biFactors, leadingCoeffs2, diophant,
2677                               Pi, liftBounds, liftBoundsLength, noOneToOne);
2678
2679  if (!noOneToOne)
2680  {
2681    int check= factors.length();
2682    A= oldA;
2683    factors= recoverFactors (A, factors, evaluation);
2684    if (check != factors.length())
2685      noOneToOne= true;
2686
2687    if (extension && !noOneToOne)
2688      factors= extNonMonicFactorRecombination (factors, A, info);
2689  }
2690  if (noOneToOne)
2691  {
2692    A= shift2Zero (oldA, Aeval, evaluation);
2693    biFactors= oldBiFactors;
2694    for (iter= biFactors; iter.hasItem(); iter++)
2695      iter.getItem()= iter.getItem () (y + evaluation.getLast(), y);
2696    CanonicalForm LCA= LC (Aeval.getFirst(), 1);
2697    CanonicalForm yToLift= power (y, lift);
2698    CFListIterator i= biFactors;
2699    lift= degree (i.getItem(), 2) + degree (LC (i.getItem(), 1)) + 1;
2700    i++;
2701
2702    for (; i.hasItem(); i++)
2703      lift= tmax (lift, degree (i.getItem(), 2) + degree (LC (i.getItem(), 1)) + 1);
2704
2705    lift= tmax (degree (Aeval.getFirst() , 2) + 1, lift);
2706
2707    i= biFactors;
2708    yToLift= power (y, lift);
2709    CanonicalForm dummy;
2710    for (; i.hasItem(); i++)
2711    {
2712      LCA= LC (i.getItem(), 1);
2713      extgcd (LCA, yToLift, LCA, dummy);
2714      i.getItem()= mod (i.getItem()*LCA, yToLift);
2715    }
2716
2717    liftBoundsLength= F.level() - 1;
2718    liftBounds= liftingBounds (A, lift);
2719
2720    CFList MOD;
2721    bool earlySuccess;
2722    CFList earlyFactors, liftedFactors;
2723    TIMING_START (fac_fq_hensel_lift);
2724    liftedFactors= henselLiftAndEarly
2725                   (A, MOD, liftBounds, earlySuccess, earlyFactors,
2726                    Aeval, biFactors, evaluation, info);
2727    TIMING_END_AND_PRINT (fac_fq_hensel_lift, "time for hensel lifting: ");
2728
2729    if (!extension)
2730    {
2731      TIMING_START (fac_fq_factor_recombination);
2732      factors= factorRecombination (A, liftedFactors, MOD);
2733      TIMING_END_AND_PRINT (fac_fq_factor_recombination,
2734                            "time for factor recombination: ");
2735    }
2736    else
2737    {
2738      TIMING_START (fac_fq_factor_recombination);
2739      factors= extFactorRecombination (liftedFactors, A, MOD, info, evaluation);
2740      TIMING_END_AND_PRINT (fac_fq_factor_recombination,
2741                            "time for factor recombination: ");
2742    }
2743
2744    if (earlySuccess)
2745      factors= Union (factors, earlyFactors);
2746    if (!extension)
2747    {
2748      for (CFListIterator i= factors; i.hasItem(); i++)
2749      {
2750        int kk= Aeval.getLast().level();
2751        for (CFListIterator j= evaluation; j.hasItem(); j++, kk--)
2752        {
2753          if (i.getItem().level() < kk)
2754            continue;
2755          i.getItem()= i.getItem() (Variable (kk) - j.getItem(), kk);
2756        }
2757      }
2758    }
2759  }
2760
2761  if (v.level() != 1)
2762  {
2763    for (CFListIterator iter= factors; iter.hasItem(); iter++)
2764      iter.getItem()= swapvar (iter.getItem(), v, y);
2765  }
2766
2767  swap (factors, swapLevel, swapLevel2, x);
2768  append (factors, contentAFactors);
2769  decompress (factors, N);
2770  normalize (factors);
2771
2772  delete[] liftBounds;
2773
2774  return factors;
2775}
2776
2777/// multivariate factorization over an extension of the initial field
2778CFList
2779extFactorize (const CanonicalForm& F, const ExtensionInfo& info)
2780{
2781  CanonicalForm A= F;
2782
2783  Variable alpha= info.getAlpha();
2784  Variable beta= info.getBeta();
2785  int k= info.getGFDegree();
2786  char cGFName= info.getGFName();
2787  CanonicalForm delta= info.getDelta();
2788  bool GF= (CFFactory::gettype() == GaloisFieldDomain);
2789  Variable w= Variable (1);
2790
2791  CFList factors;
2792  if (!GF && alpha == w)  // we are in F_p
2793  {
2794    CFList factors;
2795    bool extension= true;
2796    int p= getCharacteristic();
2797    if (p*p < (1<<16)) // pass to GF if possible
2798    {
2799      setCharacteristic (getCharacteristic(), 2, 'Z');
2800      ExtensionInfo info= ExtensionInfo (extension);
2801      A= A.mapinto();
2802      factors= multiFactorize (A, info);
2803
2804      CanonicalForm mipo= gf_mipo;
2805      setCharacteristic (getCharacteristic());
2806      Variable vBuf= rootOf (mipo.mapinto());
2807      for (CFListIterator j= factors; j.hasItem(); j++)
2808        j.getItem()= GF2FalphaRep (j.getItem(), vBuf);
2809    }
2810    else  // not able to pass to GF, pass to F_p(\alpha)
2811    {
2812      CanonicalForm mipo= randomIrredpoly (2, w);
2813      Variable v= rootOf (mipo);
2814      ExtensionInfo info= ExtensionInfo (v);
2815      factors= multiFactorize (A, info);
2816    }
2817    return factors;
2818  }
2819  else if (!GF && (alpha != w)) // we are in F_p(\alpha)
2820  {
2821    if (k == 1) // need factorization over F_p
2822    {
2823      int extDeg= degree (getMipo (alpha));
2824      extDeg++;
2825      CanonicalForm mipo= randomIrredpoly (extDeg + 1, w);
2826      Variable v= rootOf (mipo);
2827      ExtensionInfo info= ExtensionInfo (v);
2828      factors= multiFactorize (A, info);
2829    }
2830    else
2831    {
2832      if (beta == w)
2833      {
2834        Variable v= chooseExtension (alpha, beta, k);
2835        CanonicalForm primElem, imPrimElem;
2836        bool primFail= false;
2837        Variable vBuf;
2838        primElem= primitiveElement (alpha, vBuf, primFail);
2839        ASSERT (!primFail, "failure in integer factorizer");
2840        if (primFail)
2841          ; //ERROR
2842        else
2843          imPrimElem= mapPrimElem (primElem, vBuf, v);
2844
2845        CFList source, dest;
2846        CanonicalForm bufA= mapUp (A, alpha, v, primElem, imPrimElem,
2847                                   source, dest);
2848        ExtensionInfo info= ExtensionInfo (v, alpha, imPrimElem, primElem);
2849        factors= multiFactorize (bufA, info);
2850      }
2851      else
2852      {
2853        Variable v= chooseExtension (alpha, beta, k);
2854        CanonicalForm primElem, imPrimElem;
2855        bool primFail= false;
2856        Variable vBuf;
2857        ASSERT (!primFail, "failure in integer factorizer");
2858        if (primFail)
2859          ; //ERROR
2860        else
2861          imPrimElem= mapPrimElem (delta, beta, v);
2862
2863        CFList source, dest;
2864        CanonicalForm bufA= mapDown (A, info, source, dest);
2865        source= CFList();
2866        dest= CFList();
2867        bufA= mapUp (bufA, beta, v, delta, imPrimElem, source, dest);
2868        ExtensionInfo info= ExtensionInfo (v, beta, imPrimElem, delta);
2869        factors= multiFactorize (bufA, info);
2870      }
2871    }
2872    return factors;
2873  }
2874  else // we are in GF (p^k)
2875  {
2876    int p= getCharacteristic();
2877    int extensionDeg= getGFDegree();
2878    bool extension= true;
2879    if (k == 1) // need factorization over F_p
2880    {
2881      extensionDeg++;
2882      if (pow ((double) p, (double) extensionDeg) < (1<<16))
2883      // pass to GF(p^k+1)
2884      {
2885        CanonicalForm mipo= gf_mipo;
2886        setCharacteristic (p);
2887        Variable vBuf= rootOf (mipo.mapinto());
2888        A= GF2FalphaRep (A, vBuf);
2889        setCharacteristic (p, extensionDeg, 'Z');
2890        ExtensionInfo info= ExtensionInfo (extension);
2891        factors= multiFactorize (A.mapinto(), info);
2892      }
2893      else // not able to pass to another GF, pass to F_p(\alpha)
2894      {
2895        CanonicalForm mipo= gf_mipo;
2896        setCharacteristic (p);
2897        Variable vBuf= rootOf (mipo.mapinto());
2898        A= GF2FalphaRep (A, vBuf);
2899        Variable v= chooseExtension (vBuf, beta, k);
2900        ExtensionInfo info= ExtensionInfo (v, extension);
2901        factors= multiFactorize (A, info);
2902      }
2903    }
2904    else // need factorization over GF (p^k)
2905    {
2906      if (pow ((double) p, (double) 2*extensionDeg) < (1<<16))
2907      // pass to GF(p^2k)
2908      {
2909        setCharacteristic (p, 2*extensionDeg, 'Z');
2910        ExtensionInfo info= ExtensionInfo (k, cGFName, extension);
2911        factors= multiFactorize (GFMapUp (A, extensionDeg), info);
2912        setCharacteristic (p, extensionDeg, cGFName);
2913      }
2914      else // not able to pass to GF (p^2k), pass to F_p (\alpha)
2915      {
2916        CanonicalForm mipo= gf_mipo;
2917        setCharacteristic (p);
2918        Variable v1= rootOf (mipo.mapinto());
2919        A= GF2FalphaRep (A, v1);
2920        Variable v2= chooseExtension (v1, v1, k);
2921        CanonicalForm primElem, imPrimElem;
2922        bool primFail= false;
2923        Variable vBuf;
2924        primElem= primitiveElement (v1, v1, primFail);
2925        if (primFail)
2926          ; //ERROR
2927        else
2928          imPrimElem= mapPrimElem (primElem, v1, v2);
2929        CFList source, dest;
2930        CanonicalForm bufA= mapUp (A, v1, v2, primElem, imPrimElem,
2931                                     source, dest);
2932        ExtensionInfo info= ExtensionInfo (v2, v1, imPrimElem, primElem);
2933        factors= multiFactorize (bufA, info);
2934        setCharacteristic (p, k, cGFName);
2935        for (CFListIterator i= factors; i.hasItem(); i++)
2936          i.getItem()= Falpha2GFRep (i.getItem());
2937      }
2938    }
2939    return factors;
2940  }
2941}
2942
2943#endif
2944/* HAVE_NTL */
2945
Note: See TracBrowser for help on using the repository browser.