source: git/factory/facFqFactorize.cc @ 1a2d66

spielwiese
Last change on this file since 1a2d66 was 1a2d66, checked in by Martin Lee <martinlee84@…>, 12 years ago
fix: segfault of Hensel lifting in precomputeLeadingCoeff due to gaps between variables
  • Property mode set to 100644
File size: 78.1 KB
RevLine 
[7bf145]1/*****************************************************************************\
[44651b]2 * Computer Algebra System SINGULAR
[7bf145]3\*****************************************************************************/
4/** @file facFqFactorize.cc
[44651b]5 *
[7bf145]6 * This file implements functions for factoring a multivariate polynomial over
[44651b]7 * a finite field.
8 *
9 * ABSTRACT: "Efficient Multivariate Factorization over Finite Fields" by
[8c1a84]10 * L. Bernardin & M. Monagon. Precomputation of leading coefficients is
11 * described in "Sparse Hensel lifting" by E. Kaltofen
[7bf145]12 *
13 * @author Martin Lee
14 *
15 **/
16/*****************************************************************************/
17
[e4fe2b]18#include "config.h"
[7bf145]19
[650f2d8]20#include "cf_assert.h"
[7bf145]21#include "debug.h"
22#include "timing.h"
23
24#include "facFqFactorizeUtil.h"
25#include "facFqFactorize.h"
26#include "cf_random.h"
27#include "facHensel.h"
28#include "cf_gcd_smallp.h"
[fecc08]29#include "cf_map_ext.h"
[7bf145]30#include "algext.h"
[91788c0]31#include "facSparseHensel.h"
[0e2e23]32#include "facMul.h"
[7bf145]33
34#ifdef HAVE_NTL
35#include "NTLconvert.h"
36
[978ce3]37TIMING_DEFINE_PRINT(fac_fq_bi_factorizer)
38TIMING_DEFINE_PRINT(fac_fq_hensel_lift)
39TIMING_DEFINE_PRINT(fac_fq_factor_recombination)
[7bf145]40
41static inline
[44651b]42CanonicalForm
[7bf145]43listGCD (const CFList& L);
44
45static inline
[44651b]46CanonicalForm
[7bf145]47myContent (const CanonicalForm& F)
48{
[a54114]49  Variable x= Variable (1);
50  CanonicalForm G= swapvar (F, F.mvar(), x);
[7bf145]51  CFList L;
52  for (CFIterator i= G; i.hasTerms(); i++)
53    L.append (i.coeff());
54  if (L.length() == 2)
[a54114]55    return swapvar (gcd (L.getFirst(), L.getLast()), F.mvar(), x);
[7bf145]56  if (L.length() == 1)
[a54114]57    return LC (F, x);
58  return swapvar (listGCD (L), F.mvar(), x);
[7bf145]59}
60
61static inline
[44651b]62CanonicalForm
[7bf145]63listGCD (const CFList& L)
64{
65  if (L.length() == 1)
66    return L.getFirst();
67  if (L.length() == 2)
[04cdf06]68    return gcd (L.getFirst(), L.getLast());
[7bf145]69  else
70  {
71    CFList lHi, lLo;
72    CanonicalForm resultHi, resultLo;
73    int length= L.length()/2;
74    int j= 0;
75    for (CFListIterator i= L; j < length; i++, j++)
[44651b]76      lHi.append (i.getItem());
[7bf145]77    lLo= Difference (L, lHi);
78    resultHi= listGCD (lHi);
79    resultLo= listGCD (lLo);
80    if (resultHi.isOne() || resultLo.isOne())
81      return 1;
[04cdf06]82    return gcd (resultHi, resultLo);
[7bf145]83  }
84}
85
86static inline
87CanonicalForm
88myContent (const CanonicalForm& F, const Variable& x)
89{
90  if (degree (F, x) <= 0)
91    return 1;
92  CanonicalForm G= F;
93  bool swap= false;
94  if (x != F.mvar())
95  {
96    swap= true;
97    G= swapvar (F, x, F.mvar());
98  }
99  CFList L;
100  Variable alpha;
101  for (CFIterator i= G; i.hasTerms(); i++)
102    L.append (i.coeff());
103  if (L.length() == 2)
104  {
[04cdf06]105    if (swap)
106      return swapvar (gcd (L.getFirst(), L.getLast()), F.mvar(), x);
[7bf145]107    else
[04cdf06]108      return gcd (L.getFirst(), L.getLast());
[7bf145]109  }
110  if (L.length() == 1)
111  {
112    return LC (F, x);
113  }
114  if (swap)
115    return swapvar (listGCD (L), F.mvar(), x);
116  else
117    return listGCD (L);
118}
119
120CanonicalForm myCompress (const CanonicalForm& F, CFMap& N)
121{
122  int n= F.level();
123  int * degsf= new int [n + 1];
124  int ** swap;
125  swap= new int* [n + 1];
[44651b]126  for (int i= 0; i <= n; i++)
[7bf145]127  {
128    degsf[i]= 0;
129    swap [i]= new int [2];
[44651b]130    swap [i] [0]= 0;
[7bf145]131    swap [i] [1]= 0;
132  }
133  int i= 1;
[44651b]134  n= 1;
[7bf145]135  degsf= degrees (F, degsf);
136
137  CanonicalForm result= F;
[44651b]138  while ( i <= F.level() )
[7bf145]139  {
140    while( degsf[i] == 0 ) i++;
[44651b]141    swap[n][0]= i;
[4fee0ed]142    swap[n][1]= size (LC (F,i));
[7bf145]143    if (i != n)
144      result= swapvar (result, Variable (n), Variable(i));
145    n++; i++;
146  }
147
148  int buf1, buf2;
149  n--;
150
[44651b]151  for (i= 1; i < n; i++)
[7bf145]152  {
[44651b]153    for (int j= 1; j < n - i + 1; j++)
[7bf145]154    {
[4fee0ed]155      if (swap[j][1] > swap[j + 1][1])
[7bf145]156      {
[44651b]157        buf1= swap [j + 1] [0];
158        buf2= swap [j + 1] [1];
159        swap[j + 1] [0]= swap[j] [0];
[7bf145]160        swap[j + 1] [1]= swap[j] [1];
[44651b]161        swap[j][0]= buf1;
162        swap[j][1]= buf2;
[7bf145]163        result= swapvar (result, Variable (j + 1), Variable (j));
[44651b]164      }
[7bf145]165    }
166  }
167
[44651b]168  for (i= n; i > 0; i--)
[7bf145]169  {
[44651b]170    if (i != swap[i] [0])
171      N.newpair (Variable (i), Variable (swap[i] [0]));
[7bf145]172  }
173
174  for (i= 0; i <= n; i++)
175    delete [] swap[i];
176  delete [] swap;
177
178  delete [] degsf;
179
180  return result;
181}
[44651b]182
183CFList
184extFactorRecombination (const CFList& factors, const CanonicalForm& F,
185                        const CFList& M, const ExtensionInfo& info,
[7bf145]186                        const CFList& evaluation)
[44651b]187{
[7bf145]188  Variable alpha= info.getAlpha();
189  Variable beta= info.getBeta();
190  CanonicalForm gamma= info.getGamma();
191  CanonicalForm delta= info.getDelta();
192  int k= info.getGFDegree();
193  CFList source, dest;
[44651b]194  if (factors.length() == 1)
[7bf145]195  {
196    CanonicalForm buf= reverseShift (F, evaluation);
[44651b]197    return CFList (mapDown (buf, info, source, dest));
198  }
[7bf145]199  if (factors.length() < 1)
200    return CFList();
201
[ac8e1a]202  int degMipoBeta= 1;
203  if (!k && beta.level() != 1)
[7bf145]204    degMipoBeta= degree (getMipo (beta));
205
206  CFList T, S;
207  T= factors;
208
209  int s= 1;
210  CFList result;
211  CanonicalForm buf;
[ccd1b0]212
213  buf= F;
[7bf145]214
[a54114]215  Variable x= Variable (1);
216  CanonicalForm g, LCBuf= LC (buf, x);
[21b8f4c]217  CanonicalForm buf2, quot;
[1673386]218  int * v= new int [T.length()];
[7bf145]219  for (int i= 0; i < T.length(); i++)
220    v[i]= 0;
221  bool noSubset= false;
222  CFArray TT;
[44651b]223  TT= copy (factors);
[7bf145]224  bool recombination= false;
[93134c]225  bool trueFactor= false;
[44651b]226  while (T.length() >= 2*s)
[7bf145]227  {
[44651b]228    while (noSubset == false)
[7bf145]229    {
[44651b]230      if (T.length() == s)
[7bf145]231      {
[1673386]232        delete [] v;
[7bf145]233        if (recombination)
234        {
235          T.insert (LCBuf);
236          g= prodMod (T, M);
237          T.removeFirst();
238          result.append (g/myContent (g));
239          g= reverseShift (g, evaluation);
240          g /= Lc (g);
241          appendTestMapDown (result, g, info, source, dest);
242          return result;
243        }
244        else
245        {
246          buf= reverseShift (buf, evaluation);
247          return CFList (buf);
248        }
249      }
250
251      S= subset (v, s, TT, noSubset);
252      if (noSubset) break;
253
254      S.insert (LCBuf);
255      g= prodMod (S, M);
256      S.removeFirst();
257      g /= myContent (g);
[21b8f4c]258      if (fdivides (g, buf, quot))
[7bf145]259      {
[44651b]260        buf2= reverseShift (g, evaluation);
[7bf145]261        buf2 /= Lc (buf2);
[a54114]262        if (!k && beta == x)
[44651b]263        {
264          if (degree (buf2, alpha) < degMipoBeta)
265          {
266            appendTestMapDown (result, buf2, info, source, dest);
[21b8f4c]267            buf= quot;
[a54114]268            LCBuf= LC (buf, x);
[44651b]269            recombination= true;
[93134c]270            trueFactor= true;
[44651b]271          }
272        }
273        else
274        {
[f876a66]275          if (!isInExtension (buf2, gamma, k, delta, source, dest))
[44651b]276          {
277            appendTestMapDown (result, buf2, info, source, dest);
278            buf /= g;
[a54114]279            LCBuf= LC (buf, x);
[44651b]280            recombination= true;
[93134c]281            trueFactor= true;
[44651b]282          }
283        }
284
[93134c]285        if (trueFactor)
[44651b]286        {
[93134c]287          T= Difference (T, S);
288
289          if (T.length() < 2*s || T.length() == s)
290          {
291            buf= reverseShift (buf, evaluation);
292            buf /= Lc (buf);
293            appendTestMapDown (result, buf, info, source, dest);
[1673386]294            delete [] v;
[93134c]295            return result;
296          }
297          trueFactor= false;
298          TT= copy (T);
299          indexUpdate (v, s, T.length(), noSubset);
300          if (noSubset) break;
[44651b]301        }
[7bf145]302      }
303    }
304    s++;
[44651b]305    if (T.length() < 2*s || T.length() == s)
[7bf145]306    {
307      buf= reverseShift (buf, evaluation);
308      appendTestMapDown (result, buf, info, source, dest);
[1673386]309      delete [] v;
[7bf145]310      return result;
311    }
312    for (int i= 0; i < T.length(); i++)
313      v[i]= 0;
314    noSubset= false;
315  }
316  if (T.length() < 2*s)
317  {
[44651b]318    buf= reverseShift (F, evaluation);
319    appendMapDown (result, buf, info, source, dest);
[7bf145]320  }
321
[1673386]322  delete [] v;
[44651b]323  return result;
324}
[7bf145]325
[44651b]326CFList
327factorRecombination (const CanonicalForm& F, const CFList& factors,
[7bf145]328                     const CFList& M)
329{
[44651b]330  if (factors.length() == 1)
[7bf145]331    return CFList(F);
332  if (factors.length() < 1)
333    return CFList();
334
335  CFList T, S;
336
337  T= factors;
338
339  int s= 1;
340  CFList result;
341  CanonicalForm LCBuf= LC (F, Variable (1));
342  CanonicalForm g, buf= F;
[1673386]343  int * v= new int [T.length()];
[7bf145]344  for (int i= 0; i < T.length(); i++)
345    v[i]= 0;
346  bool noSubset= false;
347  CFArray TT;
[44651b]348  TT= copy (factors);
[7bf145]349  Variable y= F.level() - 1;
350  bool recombination= false;
[21b8f4c]351  CanonicalForm h, quot;
[44651b]352  while (T.length() >= 2*s)
[7bf145]353  {
[44651b]354    while (noSubset == false)
[7bf145]355    {
[44651b]356      if (T.length() == s)
[7bf145]357      {
[1673386]358        delete [] v;
[7bf145]359        if (recombination)
360        {
361          T.insert (LC (buf));
362          g= prodMod (T, M);
363          result.append (g/myContent (g));
364          return result;
365        }
366        else
367          return CFList (F);
368      }
369      S= subset (v, s, TT, noSubset);
370      if (noSubset) break;
371      S.insert (LCBuf);
372      g= prodMod (S, M);
373      S.removeFirst();
374      g /= myContent (g);
[21b8f4c]375      if (fdivides (g, buf, quot))
[7bf145]376      {
377        recombination= true;
378        result.append (g);
[21b8f4c]379        buf= quot;
[7bf145]380        LCBuf= LC (buf, Variable(1));
381        T= Difference (T, S);
[44651b]382        if (T.length() < 2*s || T.length() == s)
[7bf145]383        {
[44651b]384          result.append (buf);
[1673386]385          delete [] v;
[44651b]386          return result;
387        }
388        TT= copy (T);
389        indexUpdate (v, s, T.length(), noSubset);
390        if (noSubset) break;
[7bf145]391      }
392    }
393    s++;
[44651b]394    if (T.length() < 2*s || T.length() == s)
[7bf145]395    {
396      result.append (buf);
[1673386]397      delete [] v;
[7bf145]398      return result;
399    }
400    for (int i= 0; i < T.length(); i++)
401      v[i]= 0;
402    noSubset= false;
403  }
[44651b]404  if (T.length() < 2*s)
[7bf145]405    result.append (F);
406
[1673386]407  delete [] v;
[44651b]408  return result;
[7bf145]409}
410
411int
412liftBoundAdaption (const CanonicalForm& F, const CFList& factors, bool&
413                   success, const int deg, const CFList& MOD, const int bound)
414{
415  int adaptedLiftBound= 0;
416  CanonicalForm buf= F;
417  Variable y= F.mvar();
[a54114]418  Variable x= Variable (1);
419  CanonicalForm LCBuf= LC (buf, x);
[21b8f4c]420  CanonicalForm g, quot;
[7bf145]421  CFList M= MOD;
422  M.append (power (y, deg));
423  int d= bound;
424  int e= 0;
425  int nBuf;
[44651b]426  for (CFListIterator i= factors; i.hasItem(); i++)
[7bf145]427  {
[44651b]428    g= mulMod (i.getItem(), LCBuf, M);
[7bf145]429    g /= myContent (g);
[21b8f4c]430    if (fdivides (g, buf, quot))
[7bf145]431    {
432      nBuf= degree (g, y) + degree (LC (g, 1), y);
433      d -= nBuf;
434      e= tmax (e, nBuf);
[21b8f4c]435      buf= quot;
[a54114]436      LCBuf= LC (buf, x);
[7bf145]437    }
438  }
439  adaptedLiftBound= d;
440
[44651b]441  if (adaptedLiftBound < deg)
442  {
[7bf145]443    if (adaptedLiftBound < degree (F) + 1)
444    {
445      if (d == 1)
446      {
447        if (e + 1 > deg)
448        {
449          adaptedLiftBound= deg;
450          success= false;
451        }
[44651b]452        else
[7bf145]453        {
454          success= true;
455          if (e + 1 < degree (F) + 1)
456            adaptedLiftBound= deg;
457          else
458            adaptedLiftBound= e + 1;
459        }
460      }
461      else
462      {
463        success= true;
[44651b]464        adaptedLiftBound= deg;
[7bf145]465      }
466    }
467    else
468    {
469      success= true;
470    }
471  }
472  return adaptedLiftBound;
473}
474
[44651b]475int
476extLiftBoundAdaption (const CanonicalForm& F, const CFList& factors, bool&
477                      success, const ExtensionInfo& info, const CFList& eval,
[7bf145]478                      const int deg, const CFList& MOD, const int bound)
479{
480  Variable alpha= info.getAlpha();
481  Variable beta= info.getBeta();
482  CanonicalForm gamma= info.getGamma();
483  CanonicalForm delta= info.getDelta();
484  int k= info.getGFDegree();
485  int adaptedLiftBound= 0;
486  CanonicalForm buf= F;
487  Variable y= F.mvar();
[a54114]488  Variable x= Variable (1);
489  CanonicalForm LCBuf= LC (buf, x);
[21b8f4c]490  CanonicalForm g, gg, quot;
[7bf145]491  CFList M= MOD;
492  M.append (power (y, deg));
493  adaptedLiftBound= 0;
494  int d= bound;
[44651b]495  int e= 0;
[7bf145]496  int nBuf;
[ac8e1a]497  int degMipoBeta= 1;
498  if (!k && beta.level() != 1)
[7bf145]499    degMipoBeta= degree (getMipo (beta));
500
[f876a66]501  CFList source, dest;
[44651b]502  for (CFListIterator i= factors; i.hasItem(); i++)
[7bf145]503  {
504    g= mulMod (i.getItem(), LCBuf, M);
505    g /= myContent (g);
[21b8f4c]506    if (fdivides (g, buf, quot))
[7bf145]507    {
508      gg= reverseShift (g, eval);
509      gg /= Lc (gg);
[a54114]510      if (!k && beta == x)
[7bf145]511      {
512        if (degree (gg, alpha) < degMipoBeta)
[44651b]513        {
[21b8f4c]514          buf= quot;
[a54114]515          nBuf= degree (g, y) + degree (LC (g, x), y);
[7bf145]516          d -= nBuf;
517          e= tmax (e, nBuf);
[a54114]518          LCBuf= LC (buf, x);
[7bf145]519        }
520      }
[44651b]521      else
[7bf145]522      {
[f876a66]523        if (!isInExtension (gg, gamma, k, delta, source, dest))
[7bf145]524        {
[21b8f4c]525          buf= quot;
[a54114]526          nBuf= degree (g, y) + degree (LC (g, x), y);
[7bf145]527          d -= nBuf;
528          e= tmax (e, nBuf);
[a54114]529          LCBuf= LC (buf, x);
[7bf145]530        }
531      }
[44651b]532    }
[7bf145]533  }
534  adaptedLiftBound= d;
535
536  if (adaptedLiftBound < deg)
537  {
538    if (adaptedLiftBound < degree (F) + 1)
539    {
540      if (d == 1)
541      {
542        if (e + 1 > deg)
543        {
544          adaptedLiftBound= deg;
545          success= false;
546        }
[44651b]547        else
[7bf145]548        {
549          success= true;
550          if (e + 1 < degree (F) + 1)
551            adaptedLiftBound= deg;
552          else
553            adaptedLiftBound= e + 1;
554        }
555      }
[44651b]556      else
[7bf145]557      {
558        success= true;
[44651b]559        adaptedLiftBound= deg;
[7bf145]560      }
561    }
562    else
563    {
564      success= true;
565    }
566  }
567
568  return adaptedLiftBound;
569}
570
[44651b]571CFList
[7bf145]572earlyFactorDetect (CanonicalForm& F, CFList& factors, int& adaptedLiftBound,
[44651b]573                   bool& success, const int deg, const CFList& MOD,
[7bf145]574                   const int bound)
575{
576  CFList result;
577  CFList T= factors;
578  CanonicalForm buf= F;
579  Variable y= F.mvar();
[a54114]580  Variable x= Variable (1);
581  CanonicalForm LCBuf= LC (buf, x);
[21b8f4c]582  CanonicalForm g, quot;
[7bf145]583  CFList M= MOD;
584  M.append (power (y, deg));
585  adaptedLiftBound= 0;
586  int d= bound;
587  int e= 0;
588  int nBuf;
[44651b]589  for (CFListIterator i= factors; i.hasItem(); i++)
[7bf145]590  {
591    g= mulMod (i.getItem(), LCBuf, M);
592    g /= myContent (g);
[21b8f4c]593    if (fdivides (g, buf, quot))
[7bf145]594    {
595      result.append (g);
[a54114]596      nBuf= degree (g, y) + degree (LC (g, x), y);
[7bf145]597      d -= nBuf;
598      e= tmax (e, nBuf);
[21b8f4c]599      buf= quot;
[a54114]600      LCBuf= LC (buf, x);
[7bf145]601      T= Difference (T, CFList (i.getItem()));
602    }
603  }
604  adaptedLiftBound= d;
605
[44651b]606  if (adaptedLiftBound < deg)
[7bf145]607  {
608    if (adaptedLiftBound < degree (F) + 1)
609    {
610      if (d == 1)
611        adaptedLiftBound= tmin (e + 1, deg);
612      else
[44651b]613        adaptedLiftBound= deg;
[7bf145]614    }
615    factors= T;
616    F= buf;
617    success= true;
618  }
619  return result;
620}
621
[44651b]622CFList
[7bf145]623extEarlyFactorDetect (CanonicalForm& F, CFList& factors, int& adaptedLiftBound,
[44651b]624                      bool& success, const ExtensionInfo& info, const CFList&
[7bf145]625                      eval, const int deg, const CFList& MOD, const int bound)
626{
627  Variable alpha= info.getAlpha();
628  Variable beta= info.getBeta();
629  CanonicalForm gamma= info.getGamma();
630  CanonicalForm delta= info.getDelta();
631  int k= info.getGFDegree();
632  CFList result;
633  CFList T= factors;
634  CanonicalForm buf= F;
635  Variable y= F.mvar();
[a54114]636  Variable x= Variable (1);
637  CanonicalForm LCBuf= LC (buf, x);
[21b8f4c]638  CanonicalForm g, gg, quot;
[7bf145]639  CFList M= MOD;
640  M.append (power (y, deg));
641  adaptedLiftBound= 0;
642  int d= bound;
643  int e= 0;
644  int nBuf;
645  CFList source, dest;
646
[ac8e1a]647  int degMipoBeta= 1;
648  if (!k && beta.level() != 1)
[7bf145]649    degMipoBeta= degree (getMipo (beta));
650
[44651b]651  for (CFListIterator i= factors; i.hasItem(); i++)
[7bf145]652  {
653    g= mulMod (i.getItem(), LCBuf, M);
654    g /= myContent (g);
[21b8f4c]655    if (fdivides (g, buf, quot))
[7bf145]656    {
657      gg= reverseShift (g, eval);
658      gg /= Lc (gg);
[a54114]659      if (!k && beta == x)
[93134c]660      {
661        if (degree (gg, alpha) < degMipoBeta)
662        {
663          appendTestMapDown (result, gg, info, source, dest);
[21b8f4c]664          buf= quot;
[a54114]665          nBuf= degree (g, y) + degree (LC (g, x), y);
[93134c]666          d -= nBuf;
667          e= tmax (e, nBuf);
[a54114]668          LCBuf= LC (buf, x);
[93134c]669          T= Difference (T, CFList (i.getItem()));
670        }
671      }
672      else
673      {
[f876a66]674        if (!isInExtension (gg, gamma, k, delta, source, dest))
[93134c]675        {
676          appendTestMapDown (result, gg, info, source, dest);
[21b8f4c]677          buf= quot;
[a54114]678          nBuf= degree (g, y) + degree (LC (g, x), y);
[93134c]679          d -= nBuf;
680          e= tmax (e, nBuf);
[a54114]681          LCBuf= LC (buf, x);
[93134c]682          T= Difference (T, CFList (i.getItem()));
683         }
684      }
[7bf145]685    }
686  }
687  adaptedLiftBound= d;
688
689  if (adaptedLiftBound < deg)
690  {
691    if (adaptedLiftBound < degree (F) + 1)
692    {
693      if (d == 1)
694        adaptedLiftBound= tmin (e + 1, deg);
695      else
[44651b]696        adaptedLiftBound= deg;
[7bf145]697    }
698    success= true;
699    factors= T;
700    F= buf;
701  }
702  return result;
703}
704
[44651b]705CFList
[7bf145]706evalPoints (const CanonicalForm& F, CFList & eval, const Variable& alpha,
[44651b]707            CFList& list, const bool& GF, bool& fail)
708{
[7bf145]709  int k= F.level() - 1;
710  Variable x= Variable (1);
711  CFList result;
712  FFRandom genFF;
713  GFRandom genGF;
714  int p= getCharacteristic ();
[44651b]715  double bound;
[a54114]716  if (alpha != x)
[7bf145]717  {
718    bound= pow ((double) p, (double) degree (getMipo(alpha)));
719    bound= pow ((double) bound, (double) k);
720  }
[44651b]721  else if (GF)
[7bf145]722  {
723    bound= pow ((double) p, (double) getGFDegree());
724    bound= pow ((double) bound, (double) k);
725  }
726  else
727    bound= pow ((double) p, (double) k);
728
729  CanonicalForm random;
730  CanonicalForm deriv_x, gcd_deriv;
[44651b]731  do
[7bf145]732  {
733    random= 0;
734    // possible overflow if list.length() does not fit into a int
[44651b]735    if (list.length() >= bound)
736    {
[7bf145]737      fail= true;
738      break;
739    }
[44651b]740    for (int i= 0; i < k; i++)
741    {
[8db258]742      if (list.isEmpty())
743        result.append (0);
744      else if (GF)
[7bf145]745      {
746        result.append (genGF.generate());
747        random += result.getLast()*power (x, i);
748      }
[1372ae]749      else if (alpha.level() != 1)
[44651b]750      {
[7bf145]751        AlgExtRandomF genAlgExt (alpha);
752        result.append (genAlgExt.generate());
[44651b]753        random += result.getLast()*power (x, i);
[7bf145]754      }
[44651b]755      else
756      {
[7bf145]757        result.append (genFF.generate());
758        random += result.getLast()*power (x, i);
[44651b]759      }
[7bf145]760    }
[44651b]761    if (find (list, random))
[7bf145]762    {
763      result= CFList();
764      continue;
765    }
766    int l= F.level();
767    eval.insert (F);
[ccd1b0]768    bool bad= false;
[44651b]769    for (CFListIterator i= result; i.hasItem(); i++, l--)
[ccd1b0]770    {
[7bf145]771      eval.insert (eval.getFirst()(i.getItem(), l));
[ccd1b0]772      if (degree (eval.getFirst(), l - 1) != degree (F, l - 1))
773      {
774        if (!find (list, random))
775          list.append (random);
776        result= CFList();
777        eval= CFList();
778        bad= true;
779        break;
780      }
781    }
782
783    if (bad)
784      continue;
[7bf145]785
[44651b]786    if (degree (eval.getFirst()) != degree (F, 1))
[7bf145]787    {
788      if (!find (list, random))
789        list.append (random);
790      result= CFList();
791      eval= CFList();
792      continue;
[44651b]793    }
794
[7bf145]795    deriv_x= deriv (eval.getFirst(), x);
796    gcd_deriv= gcd (eval.getFirst(), deriv_x);
[44651b]797    if (degree (gcd_deriv) > 0)
798    {
[7bf145]799      if (!find (list, random))
800        list.append (random);
801      result= CFList();
802      eval= CFList();
803      continue;
804    }
805    CFListIterator i= eval;
806    i++;
807    CanonicalForm contentx= content (i.getItem(), x);
808    if (degree (contentx) > 0)
809    {
810      if (!find (list, random))
811        list.append (random);
812      result= CFList();
813      eval= CFList();
814      continue;
815    }
816
[44651b]817    if (list.length() >= bound)
[7bf145]818    {
819      fail= true;
820      break;
821    }
822  } while (find (list, random));
823
[44651b]824  if (!eval.isEmpty())
[7bf145]825    eval.removeFirst();
826
827  return result;
828}
829
[44651b]830static inline
[7bf145]831int newMainVariableSearch (CanonicalForm& A, CFList& Aeval, CFList&
[ccd1b0]832                           evaluation, const Variable& alpha, const int lev,
833                           CanonicalForm& g
834                          )
[44651b]835{
[7bf145]836  Variable x= Variable (1);
837  CanonicalForm derivI, buf;
838  bool GF= (CFFactory::gettype() == GaloisFieldDomain);
839  int swapLevel= 0;
840  CFList list;
841  bool fail= false;
842  buf= A;
843  Aeval= CFList();
844  evaluation= CFList();
[44651b]845  for (int i= lev; i <= A.level(); i++)
[7bf145]846  {
847    derivI= deriv (buf, Variable (i));
848    if (!derivI.isZero())
849    {
[ccd1b0]850      g= gcd (buf, derivI);
851      if (degree (g) > 0)
852        return -1;
853
[44651b]854      buf= swapvar (buf, x, Variable (i));
[7bf145]855      Aeval= CFList();
856      evaluation= CFList();
857      fail= false;
858      evaluation= evalPoints (buf, Aeval, alpha, list, GF, fail);
[44651b]859      if (!fail)
[7bf145]860      {
[44651b]861        A= buf;
862        swapLevel= i;
863        break;
[7bf145]864      }
[44651b]865      else
[7bf145]866        buf= A;
867    }
868  }
869  return swapLevel;
870}
871
[44651b]872CanonicalForm lcmContent (const CanonicalForm& A, CFList& contentAi)
[7bf145]873{
874  int i= A.level();
875  contentAi.append (myContent (A, i));
876  contentAi.append (myContent (A, i - 1));
[04cdf06]877  CanonicalForm result= lcm (contentAi.getFirst(), contentAi.getLast());
[44651b]878  for (i= i - 2; i > 0; i--)
[7bf145]879  {
880    contentAi.append (content (A, i));
[04cdf06]881    result= lcm (result, contentAi.getLast());
[7bf145]882  }
883  return result;
[44651b]884}
885
[7bf145]886CFList
887henselLiftAndEarly (CanonicalForm& A, CFList& MOD, int*& liftBounds, bool&
888                    earlySuccess, CFList& earlyFactors, const CFList& Aeval,
[44651b]889                    const CFList& biFactors, const CFList& evaluation,
[7bf145]890                    const ExtensionInfo& info)
891{
892  bool extension= info.isInExtension();
[44651b]893  CFList bufFactors= biFactors;
[7bf145]894  bufFactors.insert (LC (Aeval.getFirst(), 1));
895
896  sortList (bufFactors, Variable (1));
897
898  CFList diophant;
899  CFArray Pi;
900  int smallFactorDeg= 11; //tunable parameter
[44651b]901  CFList result;
[7bf145]902  int adaptedLiftBound= 0;
903  int liftBound= liftBounds[1];
904
905  earlySuccess= false;
906  CFList earlyReconstFactors;
907  CFListIterator j= Aeval;
908  j++;
909  CanonicalForm buf= j.getItem();
910  CFMatrix Mat= CFMatrix (liftBound, bufFactors.length() - 1);
911  MOD= CFList (power (Variable (2), liftBounds[0]));
912  if (smallFactorDeg >= liftBound)
913  {
914    result= henselLift23 (Aeval, bufFactors, liftBounds, diophant, Pi, Mat);
915  }
916  else if (smallFactorDeg >= degree (buf) + 1)
917  {
918    liftBounds[1]= degree (buf) + 1;
919    result= henselLift23 (Aeval, bufFactors, liftBounds, diophant, Pi, Mat);
920    if (Aeval.length() == 2)
921    {
922      if (!extension)
[44651b]923        earlyFactors= earlyFactorDetect
[7bf145]924                       (buf, result, adaptedLiftBound, earlySuccess,
925                        degree (buf) + 1, MOD, liftBound);
926      else
[44651b]927        earlyFactors= extEarlyFactorDetect
[7bf145]928                       (buf, result, adaptedLiftBound, earlySuccess,
[44651b]929                        info, evaluation, degree
[7bf145]930                        (buf) + 1, MOD, liftBound);
931    }
932    else
933    {
934      if (!extension)
935        adaptedLiftBound= liftBoundAdaption (buf, result, earlySuccess,
936                                             degree (buf) + 1, MOD, liftBound);
937      else
938        adaptedLiftBound= extLiftBoundAdaption (buf, result, earlySuccess, info,
939                                                evaluation, degree (buf) + 1,
[44651b]940                                                MOD, liftBound);
[7bf145]941    }
942    if (!earlySuccess)
943    {
944      result.insert (LC (buf, 1));
945      liftBounds[1]= adaptedLiftBound;
946      liftBound= adaptedLiftBound;
[44651b]947      henselLiftResume (buf, result, degree (buf) + 1, liftBound,
[7bf145]948                        Pi, diophant, Mat, MOD);
[44651b]949    }
[7bf145]950    else
951      liftBounds[1]= adaptedLiftBound;
952  }
953  else if (smallFactorDeg < degree (buf) + 1)
954  {
955    liftBounds[1]= smallFactorDeg;
956    result= henselLift23 (Aeval, bufFactors, liftBounds, diophant, Pi, Mat);
957    if (Aeval.length() == 2)
958    {
959      if (!extension)
[44651b]960        earlyFactors= earlyFactorDetect (buf, result, adaptedLiftBound,
[7bf145]961                                         earlySuccess, smallFactorDeg, MOD,
962                                         liftBound);
[44651b]963      else
[7bf145]964        earlyFactors= extEarlyFactorDetect (buf, result, adaptedLiftBound,
965                                            earlySuccess, info, evaluation,
966                                            smallFactorDeg, MOD, liftBound);
967    }
968    else
969    {
970      if (!extension)
971        adaptedLiftBound= liftBoundAdaption (buf, result, earlySuccess,
972                                             smallFactorDeg, MOD, liftBound);
973      else
974        adaptedLiftBound= extLiftBoundAdaption (buf, result, earlySuccess, info,
[44651b]975                                                evaluation, smallFactorDeg, MOD,
[7bf145]976                                                liftBound);
977    }
978
979    if (!earlySuccess)
980    {
981      result.insert (LC (buf, 1));
[44651b]982      henselLiftResume (buf, result, smallFactorDeg, degree (buf) + 1,
[7bf145]983                        Pi, diophant, Mat, MOD);
984      if (Aeval.length() == 2)
985      {
986         if (!extension)
987           earlyFactors= earlyFactorDetect (buf, result, adaptedLiftBound,
988                                            earlySuccess, degree (buf) + 1,
989                                            MOD, liftBound);
990         else
991           earlyFactors= extEarlyFactorDetect (buf, result, adaptedLiftBound,
992                                               earlySuccess, info, evaluation,
[44651b]993                                               degree (buf) + 1, MOD,
[7bf145]994                                               liftBound);
995      }
[44651b]996      else
[7bf145]997      {
998        if (!extension)
999          adaptedLiftBound= liftBoundAdaption (buf, result, earlySuccess,
[44651b]1000                                               degree (buf) + 1, MOD,liftBound);
[7bf145]1001        else
[44651b]1002          adaptedLiftBound= extLiftBoundAdaption (buf, result, earlySuccess,
[7bf145]1003                                                  info, evaluation,
1004                                                  degree (buf) + 1, MOD,
1005                                                  liftBound);
1006      }
1007      if (!earlySuccess)
1008      {
1009        result.insert (LC (buf, 1));
1010        liftBounds[1]= adaptedLiftBound;
1011        liftBound= adaptedLiftBound;
[44651b]1012        henselLiftResume (buf, result, degree (buf) + 1, liftBound,
[7bf145]1013                          Pi, diophant, Mat, MOD);
1014      }
1015      else
1016        liftBounds[1]= adaptedLiftBound;
1017    }
1018    else
1019      liftBounds[1]= adaptedLiftBound;
1020  }
1021
1022  MOD.append (power (Variable (3), liftBounds[1]));
1023
1024  if (Aeval.length() > 2)
1025  {
1026    CFListIterator j= Aeval;
1027    j++;
1028    CFList bufEval;
1029    bufEval.append (j.getItem());
1030    j++;
1031    int liftBoundsLength= Aeval.getLast().level() - 1;
1032    for (int i= 2; i <= liftBoundsLength && j.hasItem(); i++, j++)
[44651b]1033    {
[7bf145]1034      earlySuccess= false;
1035      result.insert (LC (bufEval.getFirst(), 1));
1036      bufEval.append (j.getItem());
1037      liftBound= liftBounds[i];
1038      Mat= CFMatrix (liftBounds[i], result.length() - 1);
1039
1040      buf= j.getItem();
1041      if (smallFactorDeg >= liftBound)
1042        result= henselLift (bufEval, result, MOD, diophant, Pi, Mat,
[44651b]1043                            liftBounds[i -  1], liftBounds[i]);
[7bf145]1044      else if (smallFactorDeg >= degree (buf) + 1)
1045      {
[44651b]1046        result= henselLift (bufEval, result, MOD, diophant, Pi, Mat,
1047                            liftBounds[i -  1], degree (buf) + 1);
[7bf145]1048
[44651b]1049        if (Aeval.length() == i + 1)
1050        {
1051          if (!extension)
1052            earlyFactors= earlyFactorDetect
[7bf145]1053                           (buf, result, adaptedLiftBound, earlySuccess,
1054                            degree (buf) + 1, MOD, liftBound);
[44651b]1055          else
1056            earlyFactors= extEarlyFactorDetect
[7bf145]1057                           (buf, result, adaptedLiftBound, earlySuccess,
1058                            info, evaluation, degree (buf) + 1, MOD, liftBound);
[44651b]1059        }
1060        else
1061        {
1062          if (!extension)
1063            adaptedLiftBound= liftBoundAdaption
[7bf145]1064                                (buf, result, earlySuccess, degree (buf)
1065                                 + 1,  MOD, liftBound);
[44651b]1066          else
1067            adaptedLiftBound= extLiftBoundAdaption
1068                                (buf, result, earlySuccess, info, evaluation,
1069                                 degree (buf) + 1, MOD, liftBound);
1070        }
1071
1072        if (!earlySuccess)
1073        {
1074          result.insert (LC (buf, 1));
[7bf145]1075          liftBounds[i]= adaptedLiftBound;
1076          liftBound= adaptedLiftBound;
[44651b]1077          henselLiftResume (buf, result, degree (buf) + 1, liftBound,
1078                            Pi, diophant, Mat, MOD);
1079        }
1080        else
1081        {
1082          liftBounds[i]= adaptedLiftBound;
1083        }
[7bf145]1084      }
1085      else if (smallFactorDeg < degree (buf) + 1)
1086      {
[44651b]1087        result= henselLift (bufEval, result, MOD, diophant, Pi, Mat,
1088                            liftBounds[i -  1], smallFactorDeg);
[7bf145]1089
[44651b]1090        if (Aeval.length() == i + 1)
1091        {
1092          if (!extension)
1093            earlyFactors= earlyFactorDetect
[7bf145]1094                           (buf, result, adaptedLiftBound, earlySuccess,
1095                            smallFactorDeg, MOD, liftBound);
[44651b]1096          else
1097            earlyFactors= extEarlyFactorDetect
[7bf145]1098                           (buf, result, adaptedLiftBound, earlySuccess,
1099                            info, evaluation, smallFactorDeg, MOD, liftBound);
[44651b]1100        }
1101        else
1102        {
1103          if (!extension)
1104            adaptedLiftBound= liftBoundAdaption
[7bf145]1105                                (buf, result, earlySuccess,
1106                                 smallFactorDeg, MOD, liftBound);
[44651b]1107          else
1108            adaptedLiftBound= extLiftBoundAdaption
[7bf145]1109                                (buf, result, earlySuccess, info, evaluation,
[44651b]1110                                 smallFactorDeg, MOD, liftBound);
1111        }
[7bf145]1112
[44651b]1113        if (!earlySuccess)
1114        {
1115          result.insert (LC (buf, 1));
1116          henselLiftResume (buf, result, smallFactorDeg,
[7bf145]1117                            degree (buf) + 1, Pi, diophant, Mat, MOD);
[44651b]1118          if (Aeval.length() == i + 1)
1119          {
1120            if (!extension)
1121              earlyFactors= earlyFactorDetect
[7bf145]1122                             (buf, result, adaptedLiftBound, earlySuccess,
1123                              degree (buf) +  1,  MOD, liftBound);
[44651b]1124            else
1125              earlyFactors= extEarlyFactorDetect
[7bf145]1126                             (buf, result, adaptedLiftBound, earlySuccess,
[44651b]1127                              info, evaluation, degree (buf) + 1, MOD,
[7bf145]1128                              liftBound);
[44651b]1129          }
1130          else
1131          {
1132            if (!extension)
1133              adaptedLiftBound= liftBoundAdaption
[7bf145]1134                                  (buf, result, earlySuccess, degree
1135                                   (buf) +  1,  MOD, liftBound);
[44651b]1136            else
1137              adaptedLiftBound= extLiftBoundAdaption
1138                                  (buf, result, earlySuccess, info, evaluation,
1139                                   degree (buf) + 1,  MOD, liftBound);
1140          }
1141
1142          if (!earlySuccess)
1143          {
1144            result.insert (LC (buf, 1));
[7bf145]1145            liftBounds[i]= adaptedLiftBound;
1146            liftBound= adaptedLiftBound;
[44651b]1147            henselLiftResume (buf, result, degree (buf) + 1, liftBound,
1148                              Pi, diophant, Mat, MOD);
1149          }
1150          else
1151            liftBounds[i]= adaptedLiftBound;
1152        }
1153        else
1154          liftBounds[i]= adaptedLiftBound;
[7bf145]1155      }
1156      MOD.append (power (Variable (i + 2), liftBounds[i]));
1157      bufEval.removeFirst();
1158    }
1159    bufFactors= result;
1160  }
1161  else
1162    bufFactors= result;
1163
1164  if (earlySuccess)
1165    A= buf;
1166  return result;
1167}
1168
[ccd1b0]1169void
1170gcdFreeBasis (CFFList& factors1, CFFList& factors2)
1171{
1172  CanonicalForm g;
1173  int k= factors1.length();
1174  int l= factors2.length();
1175  int n= 1;
1176  int m;
[38ffb7]1177  CFFListIterator j;
1178  for (CFFListIterator i= factors1; (n < k && i.hasItem()); i++, n++)
[ccd1b0]1179  {
1180    m= 1;
[38ffb7]1181    for (j= factors2; (m < l && j.hasItem()); j++, m++)
[ccd1b0]1182    {
[38ffb7]1183      g= gcd (i.getItem().factor(), j.getItem().factor());
[8256fd]1184      if (degree (g,1) > 0)
[ccd1b0]1185      {
1186        j.getItem()= CFFactor (j.getItem().factor()/g, j.getItem().exp());
1187        i.getItem()= CFFactor (i.getItem().factor()/g, i.getItem().exp());
1188        factors1.append (CFFactor (g, i.getItem().exp()));
1189        factors2.append (CFFactor (g, j.getItem().exp()));
1190      }
1191    }
1192  }
1193}
1194
1195CFList
1196distributeContent (const CFList& L, const CFList* differentSecondVarFactors,
[8c1a84]1197                   int length
[ccd1b0]1198                  )
1199{
1200  CFList l= L;
1201  CanonicalForm content= l.getFirst();
1202
1203  if (content.inCoeffDomain())
1204    return l;
1205
1206  if (l.length() == 1)
1207  {
1208    CFList result;
1209    for (int i= 0; i < length; i++)
1210    {
1211      if (differentSecondVarFactors[i].isEmpty())
1212        continue;
1213      if (result.isEmpty())
1214      {
1215        result= differentSecondVarFactors[i];
1216        for (CFListIterator iter= result; iter.hasItem(); iter++)
1217          content /= iter.getItem();
1218      }
1219      else
1220      {
1221        CFListIterator iter1= result;
[8a30b1]1222        for (CFListIterator iter2= differentSecondVarFactors[i];iter2.hasItem();
[ccd1b0]1223             iter2++, iter1++)
1224        {
1225          iter1.getItem() *= iter2.getItem();
1226          content /= iter2.getItem();
1227        }
1228      }
1229    }
1230    result.insert (content);
1231    return result;
1232  }
1233
[38ffb7]1234  Variable v;
[8a30b1]1235  CFListIterator iter1, iter2;
[38ffb7]1236  CanonicalForm tmp, g;
[8a30b1]1237  CFList multiplier;
[ccd1b0]1238  for (int i= 0; i < length; i++)
1239  {
1240    if (differentSecondVarFactors[i].isEmpty())
1241      continue;
[38ffb7]1242    iter1= l;
[ccd1b0]1243    iter1++;
1244
[38ffb7]1245    v= Variable (i + 3);
[8a30b1]1246    tmp= 1;
1247    for (iter2= differentSecondVarFactors[i]; iter2.hasItem();
[ccd1b0]1248         iter2++, iter1++)
1249    {
1250      if (degree (iter2.getItem(),v) == degree (iter1.getItem(),v))
1251      {
[8a30b1]1252        multiplier.append (1);
1253        continue;
[ccd1b0]1254      }
[38ffb7]1255      g= gcd (iter2.getItem(), content);
[8a30b1]1256      if (!g.inCoeffDomain())
[ccd1b0]1257      {
[8a30b1]1258        tmp *= g;
1259        multiplier.append (g);
[ccd1b0]1260      }
[8a30b1]1261      else
1262        multiplier.append (1);
1263    }
1264    if (!tmp.isOne() && fdivides (tmp, content))
1265    {
1266      iter1= l;
1267      iter1++;
1268      content /= tmp;
1269      for (iter2= multiplier; iter2.hasItem(); iter1++, iter2++)
1270        iter1.getItem() *= iter2.getItem();
[ccd1b0]1271    }
[8a30b1]1272    multiplier= CFList();
[ccd1b0]1273  }
1274
1275  l.removeFirst();
1276  l.insert (content);
1277  return l;
1278}
1279
1280CFList evaluateAtZero (const CanonicalForm& F)
1281{
1282  CFList result;
1283  CanonicalForm buf= F;
1284  result.insert (buf);
1285  for (int i= F.level(); i > 2; i--)
1286  {
1287    buf= buf (0, i);
1288    result.insert (buf);
1289  }
1290  return result;
1291}
1292
[eefc3a]1293CFList evaluateAtEval (const CanonicalForm& F, const CFArray& eval)
1294{
1295  CFList result;
1296  CanonicalForm buf= F;
1297  result.insert (buf);
1298  int k= eval.size();
1299  for (int i= 1; i < k; i++)
1300  {
1301    buf= buf (eval[i], i + 2);
1302    result.insert (buf);
1303  }
1304  return result;
1305}
1306
1307CFList evaluateAtEval (const CanonicalForm& F, const CFList& evaluation, int l)
1308{
1309  CFList result;
1310  CanonicalForm buf= F;
1311  result.insert (buf);
1312  int k= evaluation.length() + l - 1;
1313  CFListIterator j= evaluation;
1314  for (int i= k; j.hasItem() && i > l; i--, j++)
1315  {
1316    if (F.level() < i)
1317      continue;
1318    buf= buf (j.getItem(), i);
1319    result.insert (buf);
1320  }
1321  return result;
1322}
1323
[ccd1b0]1324int
1325testFactors (const CanonicalForm& G, const CFList& uniFactors,
1326             const Variable& alpha, CanonicalForm& sqrfPartF, CFList& factors,
[eefc3a]1327             CFFList*& bufSqrfFactors, CFList& evalSqrfPartF,
1328             const CFArray& evalPoint)
[ccd1b0]1329{
[38ffb7]1330  CanonicalForm tmp;
1331  CFListIterator j;
[ccd1b0]1332  for (CFListIterator i= uniFactors; i.hasItem(); i++)
1333  {
[38ffb7]1334    tmp= i.getItem();
[ccd1b0]1335    if (i.hasItem())
1336      i++;
1337    else
1338      break;
[38ffb7]1339    for (j= i; j.hasItem(); j++)
[ccd1b0]1340    {
1341      if (tmp == j.getItem())
1342        return 0;
1343    }
1344  }
1345
1346  CanonicalForm F= G;
1347  CFFList sqrfFactorization= squarefreeFactorization (F, alpha);
1348
1349  sqrfPartF= 1;
1350  for (CFFListIterator i= sqrfFactorization; i.hasItem(); i++)
1351    sqrfPartF *= i.getItem().factor();
1352
[eefc3a]1353  evalSqrfPartF= evaluateAtEval (sqrfPartF, evalPoint);
[ccd1b0]1354
[eefc3a]1355  CanonicalForm test= evalSqrfPartF.getFirst() (evalPoint[0], 2);
[ccd1b0]1356
[9dacf3f]1357  if (degree (test) != degree (sqrfPartF, 1) || test.inCoeffDomain())
[ccd1b0]1358    return 0;
1359
1360  CFFList sqrfFactors;
1361  CFList tmp2;
1362  int k= 0;
1363  factors= uniFactors;
[38ffb7]1364  CFFListIterator iter;
[ccd1b0]1365  for (CFListIterator i= factors; i.hasItem(); i++, k++)
1366  {
[38ffb7]1367    tmp= 1;
[ccd1b0]1368    sqrfFactors= squarefreeFactorization (i.getItem(), alpha);
1369
[38ffb7]1370    for (iter= sqrfFactors; iter.hasItem(); iter++)
[ccd1b0]1371    {
[38ffb7]1372      tmp2.append (iter.getItem().factor());
1373      tmp *= iter.getItem().factor();
[ccd1b0]1374    }
1375    i.getItem()= tmp/Lc(tmp);
1376    bufSqrfFactors [k]= sqrfFactors;
1377  }
1378
1379  for (int i= 0; i < factors.length() - 1; i++)
1380  {
[38ffb7]1381    for (k= i + 1; k < factors.length(); k++)
[ccd1b0]1382    {
1383      gcdFreeBasis (bufSqrfFactors [i], bufSqrfFactors[k]);
1384    }
1385  }
1386
1387  factors= CFList();
1388  for (int i= 0; i < uniFactors.length(); i++)
1389  {
1390    if (i == 0)
1391    {
[38ffb7]1392      for (iter= bufSqrfFactors [i]; iter.hasItem(); iter++)
[ccd1b0]1393      {
[327efa2]1394        if (iter.getItem().factor().inCoeffDomain())
1395          continue;
[38ffb7]1396        iter.getItem()= CFFactor (iter.getItem().factor()/
1397                                  Lc (iter.getItem().factor()),
1398                                  iter.getItem().exp());
1399        factors.append (iter.getItem().factor());
[ccd1b0]1400      }
1401    }
1402    else
1403    {
[38ffb7]1404      for (iter= bufSqrfFactors [i]; iter.hasItem(); iter++)
[ccd1b0]1405      {
[327efa2]1406        if (iter.getItem().factor().inCoeffDomain())
1407          continue;
[38ffb7]1408        iter.getItem()= CFFactor (iter.getItem().factor()/
1409                                  Lc (iter.getItem().factor()),
1410                                  iter.getItem().exp());
1411        if (!find (factors, iter.getItem().factor()))
1412          factors.append (iter.getItem().factor());
[ccd1b0]1413      }
1414    }
1415  }
1416
1417  test= prod (factors);
[eefc3a]1418  tmp= evalSqrfPartF.getFirst() (evalPoint[0],2);
[ccd1b0]1419  if (test/Lc (test) != tmp/Lc (tmp))
1420    return 0;
1421  else
1422    return 1;
1423}
1424
1425CFList
1426precomputeLeadingCoeff (const CanonicalForm& LCF, const CFList& LCFFactors,
1427                        const Variable& alpha, const CFList& evaluation,
[eefc3a]1428                        CFList* & differentSecondVarLCs, int lSecondVarLCs,
[ccd1b0]1429                        Variable& y
1430                       )
1431{
1432  y= Variable (1);
1433  if (LCF.inCoeffDomain())
1434  {
1435    CFList result;
1436    for (int i= 1; i <= LCFFactors.length() + 1; i++)
1437      result.append (1);
1438    return result;
1439  }
1440
[8256fd]1441  CFMap N, M;
[8a30b1]1442  CFArray dummy= CFArray (2);
[8256fd]1443  dummy [0]= LCF;
[8a30b1]1444  dummy [1]= Variable (2);
[8256fd]1445  compress (dummy, M, N);
1446  CanonicalForm F= M (LCF);
[ccd1b0]1447  if (LCF.isUnivariate())
1448  {
1449    CFList result;
1450    int LCFLevel= LCF.level();
1451    bool found= false;
1452    if (LCFLevel == 2)
1453    {
1454    //bivariate leading coefficients are already the true leading coefficients
1455      result= LCFFactors;
1456      found= true;
1457    }
1458    else
1459    {
[38ffb7]1460      CFListIterator j;
[eefc3a]1461      for (int i= 0; i < lSecondVarLCs; i++)
[ccd1b0]1462      {
[38ffb7]1463        for (j= differentSecondVarLCs[i]; j.hasItem(); j++)
[ccd1b0]1464        {
1465          if (j.getItem().level() == LCFLevel)
1466          {
1467            found= true;
1468            break;
1469          }
1470        }
1471        if (found)
1472        {
1473          result= differentSecondVarLCs [i];
1474          break;
1475        }
1476      }
1477      if (!found)
1478        result= LCFFactors;
1479    }
1480    if (found)
1481      result.insert (Lc (LCF));
1482    else
1483      result.append (LCF);
1484    return result;
1485  }
1486
1487  CFList factors= LCFFactors;
1488
1489  for (CFListIterator i= factors; i.hasItem(); i++)
[8256fd]1490    i.getItem()= M (i.getItem());
[ccd1b0]1491
1492  CanonicalForm sqrfPartF;
1493  CFFList * bufSqrfFactors= new CFFList [factors.length()];
[eefc3a]1494  CFList evalSqrfPartF, bufFactors;
1495  CFArray evalPoint= CFArray (evaluation.length() - 1);
[8a30b1]1496  CFArray buf= CFArray (evaluation.length());
1497  CFArray swap= CFArray (evaluation.length());
[eefc3a]1498  CFListIterator iter= evaluation;
[9dacf3f]1499  CanonicalForm vars=getVars (LCF)*Variable (2);
[8a30b1]1500  for (int i= evaluation.length() +1; i > 1; i--, iter++)
1501  {
1502    buf[i-2]=iter.getItem();
1503    if (degree (vars, i) > 0)
1504      swap[M(Variable (i)).level()-1]=buf[i-2];
1505  }
1506  buf= swap;
1507  for (int i= 0; i < evaluation.length() - 1; i++)
1508    evalPoint[i]= buf[i+1];
[eefc3a]1509
[ccd1b0]1510  int pass= testFactors (F, factors, alpha, sqrfPartF,
[eefc3a]1511                         bufFactors, bufSqrfFactors, evalSqrfPartF, evalPoint);
[ccd1b0]1512
1513  bool foundDifferent= false;
[eefc3a]1514  Variable z, x= y;
[ccd1b0]1515  int j= 0;
1516  if (!pass)
1517  {
[7a1151]1518    int lev= 0;
[ccd1b0]1519    // LCF is non-constant here
[38ffb7]1520    CFList bufBufFactors;
[8a30b1]1521    CanonicalForm bufF;
[eefc3a]1522    for (int i= 0; i < lSecondVarLCs; i++)
[ccd1b0]1523    {
1524      if (!differentSecondVarLCs [i].isEmpty())
1525      {
1526        bool allConstant= true;
[38ffb7]1527        for (iter= differentSecondVarLCs[i]; iter.hasItem(); iter++)
[ccd1b0]1528        {
1529          if (!iter.getItem().inCoeffDomain())
1530          {
1531            allConstant= false;
1532            y= Variable (iter.getItem().level());
[8256fd]1533            lev= M(y).level();
[ccd1b0]1534          }
1535        }
1536        if (allConstant)
1537          continue;
1538
1539        bufFactors= differentSecondVarLCs [i];
[38ffb7]1540        for (iter= bufFactors; iter.hasItem(); iter++)
[ccd1b0]1541          iter.getItem()= swapvar (iter.getItem(), x, y);
[38ffb7]1542        bufF= F;
[8256fd]1543        z= Variable (lev);
[ccd1b0]1544        bufF= swapvar (bufF, x, z);
[38ffb7]1545        bufBufFactors= bufFactors;
[eefc3a]1546        evalPoint= CFArray (evaluation.length() - 1);
[8a30b1]1547        for (int k= 0; k < evaluation.length()-1; k++)
[eefc3a]1548        {
[9dacf3f]1549          if (N (Variable (k+1)).level() != y.level())
[8a30b1]1550            evalPoint[k]= buf[k+1];
1551          else
1552            evalPoint[k]= buf[0];
[eefc3a]1553        }
[ccd1b0]1554        pass= testFactors (bufF, bufBufFactors, alpha, sqrfPartF, bufFactors,
[eefc3a]1555                           bufSqrfFactors, evalSqrfPartF, evalPoint);
[ccd1b0]1556        if (pass)
1557        {
1558          foundDifferent= true;
1559          F= bufF;
1560          CFList l= factors;
[38ffb7]1561          for (iter= l; iter.hasItem(); iter++)
[ccd1b0]1562            iter.getItem()= swapvar (iter.getItem(), x, y);
1563          differentSecondVarLCs [i]= l;
1564          j= i;
1565          break;
1566        }
[eefc3a]1567        if (!pass && i == lSecondVarLCs - 1)
[ccd1b0]1568        {
1569          CFList result;
1570          result.append (LCF);
1571          for (int k= 1; k <= factors.length(); k++)
1572            result.append (LCF);
1573          y= Variable (1);
[229530]1574          delete [] bufSqrfFactors;
[ccd1b0]1575          return result;
1576        }
1577      }
1578    }
1579  }
1580  if (!pass)
1581  {
1582    CFList result;
1583    result.append (LCF);
1584    for (int k= 1; k <= factors.length(); k++)
1585      result.append (LCF);
1586    y= Variable (1);
[229530]1587    delete [] bufSqrfFactors;
[ccd1b0]1588    return result;
1589  }
1590  else
1591    factors= bufFactors;
1592
[327efa2]1593  bufFactors= factors;
[1a2d66]1594
1595  CFMap MM, NN;
1596  dummy [0]= sqrfPartF;
1597  dummy [1]= 1;
1598  compress (dummy, MM, NN);
1599  sqrfPartF= MM (sqrfPartF);
1600  CanonicalForm varsSqrfPartF= getVars (sqrfPartF);
1601  for (CFListIterator iter= factors; iter.hasItem(); iter++)
1602    iter.getItem()= MM (iter.getItem());
1603
[eefc3a]1604  CFList evaluation2;
[1a2d66]1605  for (int i= 2; i <= varsSqrfPartF.level(); i++)
1606    evaluation2.insert (evalPoint[NN (Variable (i)).level()-2]);
[327efa2]1607
[ec16f0]1608  CFList interMedResult;
1609  CanonicalForm oldSqrfPartF= sqrfPartF;
[8a30b1]1610  sqrfPartF= shift2Zero (sqrfPartF, evalSqrfPartF, evaluation2);
[327efa2]1611  if (factors.length() > 1)
1612  {
[ec16f0]1613    CanonicalForm LC1= LC (oldSqrfPartF, 1);
1614    CFList leadingCoeffs;
[327efa2]1615    for (int i= 0; i < factors.length(); i++)
[ec16f0]1616      leadingCoeffs.append (LC1);
1617
[8a30b1]1618    CFList LC1eval= evaluateAtEval (LC1, evaluation2, 2);
[ec16f0]1619    CFList oldFactors= factors;
1620    for (CFListIterator i= oldFactors; i.hasItem(); i++)
1621      i.getItem() *= LC1eval.getFirst()/Lc (i.getItem());
[eefc3a]1622
[ec16f0]1623    bool success= false;
[64b824]1624    CanonicalForm oldSqrfPartFPowLC= oldSqrfPartF*power(LC1,factors.length()-1);
1625    if (size (oldSqrfPartFPowLC)/getNumVars (oldSqrfPartFPowLC) < 500 &&
1626        LucksWangSparseHeuristic (oldSqrfPartFPowLC,
[8a30b1]1627                                  oldFactors, 2, leadingCoeffs, factors))
[eefc3a]1628    {
[ec16f0]1629      interMedResult= recoverFactors (oldSqrfPartF, factors);
1630      if (oldFactors.length() == interMedResult.length())
1631        success= true;
[eefc3a]1632    }
[ec16f0]1633    if (!success)
1634    {
1635      LC1= LC (evalSqrfPartF.getFirst(), 1);
[ccd1b0]1636
[ec16f0]1637      CFArray leadingCoeffs= CFArray (factors.length());
1638      for (int i= 0; i < factors.length(); i++)
1639        leadingCoeffs[i]= LC1;
[ccd1b0]1640
[ec16f0]1641      for (CFListIterator i= factors; i.hasItem(); i++)
1642        i.getItem() *= LC1 (0,2)/Lc (i.getItem());
1643      factors.insert (1);
[ccd1b0]1644
[ec16f0]1645      CanonicalForm
1646      newSqrfPartF= evalSqrfPartF.getFirst()*power (LC1, factors.length() - 2);
[327efa2]1647
[ec16f0]1648      int liftBound= degree (newSqrfPartF,2) + 1;
1649
1650      CFMatrix M= CFMatrix (liftBound, factors.length() - 1);
1651      CFArray Pi;
1652      CFList diophant;
[81d96c]1653      nonMonicHenselLift12 (newSqrfPartF, factors, liftBound, Pi, diophant, M,
1654                            leadingCoeffs, false);
[ec16f0]1655
1656      if (sqrfPartF.level() > 2)
[327efa2]1657      {
[ec16f0]1658        int* liftBounds= new int [sqrfPartF.level() - 1];
1659        liftBounds [0]= liftBound;
1660        bool noOneToOne= false;
1661        CFList *leadingCoeffs2= new CFList [sqrfPartF.level()-2];
1662        LC1= LC (evalSqrfPartF.getLast(), 1);
1663        CFList LCs;
1664        for (int i= 0; i < factors.length(); i++)
1665          LCs.append (LC1);
1666        leadingCoeffs2 [sqrfPartF.level() - 3]= LCs;
1667        for (int i= sqrfPartF.level() - 1; i > 2; i--)
1668        {
1669          for (CFListIterator j= LCs; j.hasItem(); j++)
1670            j.getItem()= j.getItem() (0, i + 1);
1671          leadingCoeffs2 [i - 3]= LCs;
1672        }
1673        sqrfPartF *= power (LC1, factors.length()-1);
1674
1675        int liftBoundsLength= sqrfPartF.level() - 1;
1676        for (int i= 1; i < liftBoundsLength; i++)
1677          liftBounds [i]= degree (sqrfPartF, i + 2) + 1;
1678        evalSqrfPartF= evaluateAtZero (sqrfPartF);
1679        evalSqrfPartF.removeFirst();
1680        factors= nonMonicHenselLift (evalSqrfPartF, factors, leadingCoeffs2,
1681                 diophant, Pi, liftBounds, sqrfPartF.level() - 1, noOneToOne);
1682        delete [] leadingCoeffs2;
1683        delete [] liftBounds;
[327efa2]1684      }
[ec16f0]1685      for (CFListIterator iter= factors; iter.hasItem(); iter++)
[8a30b1]1686        iter.getItem()= reverseShift (iter.getItem(), evaluation2);
[ec16f0]1687
1688      interMedResult=
[8a30b1]1689      recoverFactors (reverseShift(evalSqrfPartF.getLast(),evaluation2),
[ec16f0]1690                      factors);
[327efa2]1691    }
1692  }
1693  else
[ec16f0]1694  {
[8256fd]1695    CanonicalForm contF=content (oldSqrfPartF,1);
1696    factors= CFList (oldSqrfPartF/contF);
[ec16f0]1697    interMedResult= recoverFactors (oldSqrfPartF, factors);
1698  }
[ccd1b0]1699
[1a2d66]1700  for (CFListIterator iter= interMedResult; iter.hasItem(); iter++)
1701    iter.getItem()= NN (iter.getItem());
1702
[ccd1b0]1703  CFList result;
[38ffb7]1704  CFFListIterator k;
[ccd1b0]1705  for (int i= 0; i < LCFFactors.length(); i++)
1706  {
1707    CanonicalForm tmp= 1;
[38ffb7]1708    for (k= bufSqrfFactors[i]; k.hasItem(); k++)
[ccd1b0]1709    {
1710      int pos= findItem (bufFactors, k.getItem().factor());
1711      if (pos)
1712        tmp *= power (getItem (interMedResult, pos), k.getItem().exp());
1713    }
1714    result.append (tmp);
1715  }
1716
1717  for (CFListIterator i= result; i.hasItem(); i++)
1718  {
1719    F /= i.getItem();
1720    if (foundDifferent)
1721      i.getItem()= swapvar (i.getItem(), x, z);
1722    i.getItem()= N (i.getItem());
1723  }
1724
1725  if (foundDifferent)
1726  {
1727    CFList l= differentSecondVarLCs [j];
1728    for (CFListIterator i= l; i.hasItem(); i++)
1729      i.getItem()= swapvar (i.getItem(), y, z);
1730    differentSecondVarLCs [j]= l;
1731    F= swapvar (F, x, z);
1732  }
1733
1734  result.insert (N (F));
1735
[eefc3a]1736  result= distributeContent (result, differentSecondVarLCs, lSecondVarLCs);
[ccd1b0]1737
1738  if (!result.getFirst().inCoeffDomain())
1739  {
1740    CFListIterator i= result;
1741    CanonicalForm tmp;
1742    if (foundDifferent)
1743      i.getItem()= swapvar (i.getItem(), Variable (2), y);
1744
1745    tmp= i.getItem();
1746
1747    i++;
1748    for (; i.hasItem(); i++)
1749    {
1750      if (foundDifferent)
1751        i.getItem()= swapvar (i.getItem(), Variable (2), y)*tmp;
1752      else
1753        i.getItem() *= tmp;
1754    }
1755  }
1756  else
1757    y= Variable (1);
1758
[229530]1759  delete [] bufSqrfFactors;
1760
[ccd1b0]1761  return result;
1762}
1763
1764void
1765evaluationWRTDifferentSecondVars (CFList*& Aeval, const CFList& evaluation,
1766                                  const CanonicalForm& A)
1767{
[38ffb7]1768  CanonicalForm tmp;
1769  CFList tmp2;
1770  CFListIterator iter;
[ccd1b0]1771  for (int i= A.level(); i > 2; i--)
1772  {
[38ffb7]1773    tmp= A;
1774    tmp2= CFList();
1775    iter= evaluation;
[ccd1b0]1776    bool preserveDegree= true;
1777    for (int j= A.level(); j > 1; j--, iter++)
1778    {
1779      if (j == i)
1780        continue;
1781      else
1782      {
1783        tmp= tmp (iter.getItem(), j);
1784        tmp2.insert (tmp);
1785        if ((degree (tmp, i) != degree (A, i)) ||
1786            (degree (tmp, 1) != degree (A, 1)))
1787        {
1788          preserveDegree= false;
1789          break;
1790        }
1791        if (!content(tmp).inCoeffDomain() || !content(tmp,1).inCoeffDomain())
1792        {
1793          preserveDegree= false;
1794          break;
1795        }
1796      }
1797    }
1798    if (preserveDegree)
1799      Aeval [i - 3]= tmp2;
1800    else
1801      Aeval [i - 3]= CFList();
1802  }
1803}
1804
[6f6320]1805#endif
1806
[ccd1b0]1807static inline
1808CanonicalForm prodEval (const CFList& l, const CanonicalForm& evalPoint,
1809                        const Variable& v)
1810{
1811  CanonicalForm result= 1;
1812  for (CFListIterator i= l; i.hasItem(); i++)
1813    result *= i.getItem() (evalPoint, v);
1814  return result;
1815}
1816
1817//recombine bivariate factors in case one bivariate factorization yields less
1818// factors than the other
1819CFList
1820recombination (const CFList& factors1, const CFList& factors2, int s, int thres,
1821               const CanonicalForm& evalPoint, const Variable& x)
1822{
1823  CFList T, S;
1824
1825  T= factors1;
1826  CFList result;
1827  CanonicalForm buf;
1828  int * v= new int [T.length()];
1829  for (int i= 0; i < T.length(); i++)
1830    v[i]= 0;
1831  bool nosubset= false;
1832  CFArray TT;
1833  TT= copy (factors1);
1834  while (T.length() >= 2*s && s <= thres)
1835  {
[a30a5fc]1836    while (nosubset == false)
[ccd1b0]1837    {
[a30a5fc]1838      if (T.length() == s)
[ccd1b0]1839      {
1840        delete [] v;
1841        result.append (prod (T));
1842        return result;
1843      }
1844      S= subset (v, s, TT, nosubset);
1845      if (nosubset) break;
1846      buf= prodEval (S, evalPoint, x);
1847      buf /= Lc (buf);
1848      if (find (factors2, buf))
1849      {
1850        T= Difference (T, S);
1851        result.append (prod (S));
1852        TT= copy (T);
1853        indexUpdate (v, s, T.length(), nosubset);
1854        if (nosubset) break;
1855      }
1856    }
1857    s++;
1858    if (T.length() < 2*s || T.length() == s) 
1859    {
1860      delete [] v;
1861      result.append (prod (T));
1862      return result;
1863    }
1864    for (int i= 0; i < T.length(); i++)
1865      v[i]= 0;
1866    nosubset= false;
1867  }
1868
1869  delete [] v;
1870  if (T.length() < 2*s)
1871  {
1872    result.append (prod (T));
1873    return result;
1874  }
1875
1876  return result;
1877}
1878
[6f6320]1879#ifdef HAVE_NTL
[ccd1b0]1880void
1881factorizationWRTDifferentSecondVars (const CanonicalForm& A, CFList*& Aeval,
1882                                     const ExtensionInfo& info,
1883                                     int& minFactorsLength, bool& irred)
1884{
1885  Variable x= Variable (1);
1886  minFactorsLength= 0;
1887  irred= false;
[38ffb7]1888  CFList factors;
1889  Variable v;
[ccd1b0]1890  for (int j= 0; j < A.level() - 2; j++)
1891  {
1892    if (!Aeval[j].isEmpty())
1893    {
[38ffb7]1894      v= Variable (Aeval[j].getFirst().level());
[ccd1b0]1895      if (CFFactory::gettype() == GaloisFieldDomain)
1896        factors= GFBiSqrfFactorize (Aeval[j].getFirst());
1897      else if (info.getAlpha().level() == 1)
1898        factors= FpBiSqrfFactorize (Aeval[j].getFirst());
1899      else
1900        factors= FqBiSqrfFactorize (Aeval[j].getFirst(), info.getAlpha());
1901
1902      factors.removeFirst();
1903      if (minFactorsLength == 0)
1904        minFactorsLength= factors.length();
1905      else
1906        minFactorsLength= tmin (minFactorsLength, factors.length());
1907
1908      if (factors.length() == 1)
1909      {
1910        irred= true;
1911        return;
1912      }
1913      sortList (factors, x);
1914      Aeval [j]= factors;
1915    }
1916  }
1917}
1918
[8a30b1]1919CFList conv (const CFArray & A)
1920{
1921  CFList result;
1922  for (int i= A.max(); i >= A.min(); i--)
1923    result.insert (A[i]);
1924  return result;
1925}
1926
[772056]1927
[ccd1b0]1928void getLeadingCoeffs (const CanonicalForm& A, CFList*& Aeval,
1929                       const CFList& uniFactors, const CFList& evaluation
1930                      )
[772056]1931{
1932  CFListIterator iter;
1933  CFList LCs;
1934  for (int j= 0; j < A.level() - 2; j++)
1935  {
1936    if (!Aeval[j].isEmpty())
1937    {
1938      LCs= CFList();
1939      for (iter= Aeval[j]; iter.hasItem(); iter++)
1940        LCs.append (LC (iter.getItem(), 1));
1941      //normalize (LCs);
1942      Aeval[j]= LCs;
1943    }
1944  }
1945}
1946
1947void sortByUniFactors (CFList*& Aeval, int AevalLength,
1948                       const CFList& uniFactors, const CFList& evaluation
1949                      )
[ccd1b0]1950{
[38ffb7]1951  CanonicalForm evalPoint;
1952  int i;
1953  CFListIterator iter, iter2;
1954  Variable v;
[8a30b1]1955  CFList LCs, buf;
1956  CFArray l;
1957  int pos, index;
[772056]1958  for (int j= 0; j < AevalLength; j++)
[ccd1b0]1959  {
1960    if (!Aeval[j].isEmpty())
1961    {
[772056]1962      i= evaluation.length() + 1;
[38ffb7]1963      for (iter= evaluation; iter.hasItem(); iter++, i--)
[ccd1b0]1964      {
1965        if (i == Aeval[j].getFirst().level())
1966        {
1967          evalPoint= iter.getItem();
1968          break;
1969        }
1970      }
1971
[38ffb7]1972      v= Variable (i);
[ccd1b0]1973      if (Aeval[j].length() > uniFactors.length())
1974        Aeval[j]= recombination (Aeval[j], uniFactors, 1,
1975                                 Aeval[j].length() - uniFactors.length() + 1,
1976                                 evalPoint, v);
1977
[eefc3a]1978      buf= buildUniFactors (Aeval[j], evalPoint, v);
[8a30b1]1979      l= CFArray (uniFactors.length());
1980      index= 1;
1981      for (iter= buf; iter.hasItem(); iter++, index++)
[ccd1b0]1982      {
[8a30b1]1983        pos= findItem (uniFactors, iter.getItem());
[eefc3a]1984        if (pos)
[8a30b1]1985          l[pos-1]= getItem (Aeval[j], index);
[ccd1b0]1986      }
[8a30b1]1987      buf= conv (l);
1988      Aeval [j]= buf;
[ccd1b0]1989
[8a30b1]1990      buf= buildUniFactors (Aeval[j], evalPoint, v);
[ccd1b0]1991    }
1992  }
1993}
1994
1995CFList
1996buildUniFactors (const CFList& biFactors, const CanonicalForm& evalPoint,
1997                 const Variable& y)
1998{
1999  CFList result;
2000  CanonicalForm tmp;
2001  for (CFListIterator i= biFactors; i.hasItem(); i++)
2002  {
2003    tmp= mod (i.getItem(), y - evalPoint);
2004    tmp /= Lc (tmp);
2005    result.append (tmp);
2006  }
2007  return result;
2008}
2009
2010void refineBiFactors (const CanonicalForm& A, CFList& biFactors,
2011                      CFList* const& Aeval, const CFList& evaluation,
2012                      int minFactorsLength)
2013{
[38ffb7]2014  CFListIterator iter;
2015  CanonicalForm evalPoint;
2016  int i;
2017  Variable v;
2018  Variable y= Variable (2);
2019  CFList list;
[ccd1b0]2020  for (int j= 0; j < A.level() - 2; j++)
2021  {
2022    if (Aeval[j].length() == minFactorsLength)
2023    {
[38ffb7]2024      i= A.level();
2025
2026      for (iter= evaluation; iter.hasItem(); iter++, i--)
[ccd1b0]2027      {
2028        if (i == Aeval[j].getFirst().level())
2029        {
2030          evalPoint= iter.getItem();
2031          break;
2032        }
2033      }
2034
[38ffb7]2035      v= Variable (i);
2036      list= buildUniFactors (Aeval[j], evalPoint, v);
[ccd1b0]2037
2038      biFactors= recombination (biFactors, list, 1,
2039                                biFactors.length() - list.length() + 1,
2040                                evaluation.getLast(), y);
2041      return;
2042    }
2043  }
2044}
2045
2046void prepareLeadingCoeffs (CFList*& LCs, int n, const CFList& leadingCoeffs,
[eefc3a]2047                           const CFList& biFactors, const CFList& evaluation)
[ccd1b0]2048{
2049  CFList l= leadingCoeffs;
2050  LCs [n-3]= l;
[38ffb7]2051  CFListIterator j;
[eefc3a]2052  CFListIterator iter= evaluation;
2053  for (int i= n - 1; i > 2; i--, iter++)
[ccd1b0]2054  {
[38ffb7]2055    for (j= l; j.hasItem(); j++)
[eefc3a]2056      j.getItem()= j.getItem() (iter.getItem(), i + 1);
[ccd1b0]2057    LCs [i - 3]= l;
2058  }
2059  l= LCs [0];
2060  for (CFListIterator i= l; i.hasItem(); i++)
[eefc3a]2061    i.getItem()= i.getItem() (iter.getItem(), 3);
[ccd1b0]2062  CFListIterator ii= biFactors;
2063  CFList normalizeFactor;
2064  for (CFListIterator i= l; i.hasItem(); i++, ii++)
2065    normalizeFactor.append (Lc (LC (ii.getItem(), 1))/Lc (i.getItem()));
2066  for (int i= 0; i < n-2; i++)
2067  {
2068    ii= normalizeFactor;
[38ffb7]2069    for (j= LCs [i]; j.hasItem(); j++, ii++)
[ccd1b0]2070      j.getItem() *= ii.getItem();
2071  }
2072}
2073
2074CFList recoverFactors (const CanonicalForm& F, const CFList& factors)
2075{
2076  CFList result;
[09723d]2077  CanonicalForm tmp, tmp2;
2078  CanonicalForm G= F;
[ccd1b0]2079  for (CFListIterator i= factors; i.hasItem(); i++)
2080  {
[09723d]2081    tmp= i.getItem()/content (i.getItem(), 1);
2082    if (fdivides (tmp, G, tmp2))
2083    {
2084      G= tmp2;
[ccd1b0]2085      result.append (tmp);
[09723d]2086    }
[ccd1b0]2087  }
2088  return result;
2089}
2090
[c79a9d]2091CFList recoverFactors (const CanonicalForm& F, const CFList& factors,
2092                       const CFList& evaluation)
2093{
2094  CFList result;
2095  CanonicalForm tmp, tmp2;
2096  CanonicalForm G= F;
2097  for (CFListIterator i= factors; i.hasItem(); i++)
2098  {
2099    tmp= reverseShift (i.getItem(), evaluation);
2100    tmp /= content (tmp, 1);
2101    if (fdivides (tmp, G, tmp2))
2102    {
2103      G= tmp2;
2104      result.append (tmp);
2105    }
2106  }
2107  return result;
2108}
2109
[8267b8]2110CFList recoverFactors (CanonicalForm& F, const CFList& factors, int* index)
2111{
2112  CFList result;
2113  CanonicalForm tmp, tmp2;
2114  CanonicalForm G= F;
2115  int j= 0;
2116  for (CFListIterator i= factors; i.hasItem(); i++, j++)
2117  {
2118    if (i.getItem().isZero())
2119    {
2120      index[j]= 0;
2121      continue;
2122    }
2123    tmp= i.getItem();
2124    if (fdivides (tmp, G, tmp2))
2125    {
2126      G= tmp2;
2127      tmp /=content (tmp, 1);
2128      result.append (tmp);
2129      index[j]= 1;
2130    }
2131    else
2132      index[j]= 0;
2133  }
2134  F= G;
2135  return result;
2136}
2137
[ccd1b0]2138CFList
2139extNonMonicFactorRecombination (const CFList& factors, const CanonicalForm& F,
[c79a9d]2140                                const ExtensionInfo& info)
[ccd1b0]2141{
2142  Variable alpha= info.getAlpha();
2143  Variable beta= info.getBeta();
2144  CanonicalForm gamma= info.getGamma();
2145  CanonicalForm delta= info.getDelta();
2146  int k= info.getGFDegree();
2147  CFList source, dest;
2148
2149  int degMipoBeta= 1;
2150  if (!k && beta != Variable(1))
2151    degMipoBeta= degree (getMipo (beta));
2152
2153  CFList T, S;
2154  T= factors;
2155  int s= 1;
2156  CFList result;
[21b8f4c]2157  CanonicalForm quot, buf= F;
[ccd1b0]2158
2159  CanonicalForm g;
2160  CanonicalForm buf2;
2161  int * v= new int [T.length()];
2162  for (int i= 0; i < T.length(); i++)
2163    v[i]= 0;
2164  bool noSubset= false;
2165  CFArray TT;
2166  TT= copy (factors);
2167  bool recombination= false;
2168  bool trueFactor= false;
2169  while (T.length() >= 2*s)
2170  {
2171    while (noSubset == false)
2172    {
2173      if (T.length() == s)
2174      {
2175        delete [] v;
2176        if (recombination)
2177        {
2178          g= prod (T);
2179          T.removeFirst();
2180          result.append (g/myContent (g));
2181          g /= Lc (g);
2182          appendTestMapDown (result, g, info, source, dest);
2183          return result;
2184        }
2185        else
[dc390c]2186          return CFList (buf/myContent(buf));
[ccd1b0]2187      }
2188
2189      S= subset (v, s, TT, noSubset);
2190      if (noSubset) break;
2191
2192      g= prod (S);
2193      g /= myContent (g);
[21b8f4c]2194      if (fdivides (g, buf, quot))
[ccd1b0]2195      {
[c79a9d]2196        buf2= g;
[ccd1b0]2197        buf2 /= Lc (buf2);
[a54114]2198        if (!k && beta.level() == 1)
[ccd1b0]2199        {
2200          if (degree (buf2, alpha) < degMipoBeta)
2201          {
2202            appendTestMapDown (result, buf2, info, source, dest);
[21b8f4c]2203            buf= quot;
[ccd1b0]2204            recombination= true;
2205            trueFactor= true;
2206          }
2207        }
2208        else
2209        {
2210          if (!isInExtension (buf2, gamma, k, delta, source, dest))
2211          {
2212            appendTestMapDown (result, buf2, info, source, dest);
[21b8f4c]2213            buf= quot;
[ccd1b0]2214            recombination= true;
2215            trueFactor= true;
2216          }
2217        }
2218        if (trueFactor)
2219        {
2220          T= Difference (T, S);
2221
2222          if (T.length() < 2*s || T.length() == s)
2223          {
2224            delete [] v;
[dc390c]2225            buf /= myContent (buf);
[ccd1b0]2226            buf /= Lc (buf);
2227            appendTestMapDown (result, buf, info, source, dest);
2228            return result;
2229          }
2230          trueFactor= false;
2231          TT= copy (T);
2232          indexUpdate (v, s, T.length(), noSubset);
2233          if (noSubset) break;
2234        }
2235      }
2236    }
2237    s++;
2238    if (T.length() < 2*s || T.length() == s)
2239    {
2240      delete [] v;
[dc390c]2241      appendTestMapDown (result, buf/myContent(buf), info, source, dest);
[ccd1b0]2242      return result;
2243    }
2244    for (int i= 0; i < T.length(); i++)
2245      v[i]= 0;
2246    noSubset= false;
2247  }
2248  if (T.length() < 2*s)
[dc390c]2249    appendMapDown (result, F/myContent(F), info, source, dest);
[ccd1b0]2250
2251  delete [] v;
2252  return result;
2253}
2254
2255CFList
2256extFactorize (const CanonicalForm& F, const ExtensionInfo& info);
2257
2258CFList
2259multiFactorize (const CanonicalForm& F, const ExtensionInfo& info)
2260{
2261
2262  if (F.inCoeffDomain())
2263    return CFList (F);
2264
2265  // compress and find main Variable
2266  CFMap N;
2267  CanonicalForm A= myCompress (F, N);
2268
2269  A /= Lc (A); // make monic
2270
2271  Variable alpha= info.getAlpha();
2272  Variable beta= info.getBeta();
2273  CanonicalForm gamma= info.getGamma();
2274  CanonicalForm delta= info.getDelta();
2275  bool extension= info.isInExtension();
2276  bool GF= (CFFactory::gettype() == GaloisFieldDomain);
2277  //univariate case
2278  if (F.isUnivariate())
2279  {
2280    if (extension == false)
2281      return uniFactorizer (F, alpha, GF);
2282    else
[44651b]2283    {
[7bf145]2284      CFList source, dest;
2285      A= mapDown (F, info, source, dest);
2286      return uniFactorizer (A, beta, GF);
2287    }
2288  }
2289
2290  //bivariate case
[44651b]2291  if (A.level() == 2)
[7bf145]2292  {
[44651b]2293    CFList buf= biFactorize (F, info);
[7bf145]2294    return buf;
2295  }
[44651b]2296
[7bf145]2297  Variable x= Variable (1);
2298  Variable y= Variable (2);
[44651b]2299
[7bf145]2300  // remove content
2301  CFList contentAi;
2302  CanonicalForm lcmCont= lcmContent (A, contentAi);
[44651b]2303  A /= lcmCont;
[7bf145]2304
2305  // trivial after content removal
2306  CFList contentAFactors;
[44651b]2307  if (A.inCoeffDomain())
2308  {
2309    for (CFListIterator i= contentAi; i.hasItem(); i++)
[7bf145]2310    {
2311      if (i.getItem().inCoeffDomain())
2312        continue;
[44651b]2313      else
[7bf145]2314      {
2315        lcmCont /= i.getItem();
[44651b]2316        contentAFactors=
2317        Union (multiFactorize (lcmCont, info),
[7bf145]2318               multiFactorize (i.getItem(), info));
2319        break;
2320      }
2321    }
2322    decompress (contentAFactors, N);
2323    normalize (contentAFactors);
2324    return contentAFactors;
2325  }
2326
2327  // factorize content
[44651b]2328  contentAFactors= multiFactorize (lcmCont, info);
[7bf145]2329
2330  // univariate after content removal
2331  CFList factors;
[44651b]2332  if (A.isUnivariate ())
[7bf145]2333  {
2334    factors= uniFactorizer (A, alpha, GF);
2335    append (factors, contentAFactors);
2336    decompress (factors, N);
2337    return factors;
2338  }
2339
2340  // check main variable
2341  int swapLevel= 0;
2342  CanonicalForm derivZ;
2343  CanonicalForm gcdDerivZ;
2344  CanonicalForm bufA= A;
2345  Variable z;
2346  for (int i= 1; i <= A.level(); i++)
[44651b]2347  {
[7bf145]2348    z= Variable (i);
2349    derivZ= deriv (bufA, z);
2350    if (derivZ.isZero())
2351    {
2352      if (i == 1)
2353        swapLevel= 1;
2354      else
2355        continue;
2356    }
2357    else
2358    {
2359      if (swapLevel == 1)
2360      {
2361        swapLevel= i;
[ccd1b0]2362        bufA= swapvar (A, x, z);
[7bf145]2363      }
[04cdf06]2364      gcdDerivZ= gcd (bufA, derivZ);
[44651b]2365      if (degree (gcdDerivZ) > 0 && !derivZ.isZero())
[7bf145]2366      {
2367        CanonicalForm g= bufA/gcdDerivZ;
[44651b]2368        CFList factorsG=
[7bf145]2369        Union (multiFactorize (g, info),
2370               multiFactorize (gcdDerivZ, info));
2371        appendSwapDecompress (factorsG, contentAFactors, N, swapLevel, x);
2372        normalize (factorsG);
2373        return factorsG;
2374      }
[ccd1b0]2375      else
2376      {
2377        A= bufA;
2378        break;
2379      }
[7bf145]2380    }
2381  }
2382
2383
2384  CFList Aeval, list, evaluation, bufEvaluation, bufAeval;
2385  bool fail= false;
2386  int swapLevel2= 0;
2387  int level;
2388  int factorNums= 3;
2389  CanonicalForm bivarEval;
2390  CFList biFactors, bufBiFactors;
2391  CanonicalForm evalPoly;
2392  int lift, bufLift;
[fd5b3a]2393  double logarithm= (double) ilog2 (totaldegree (A));
2394  logarithm /= log2exp;
2395  logarithm= ceil (logarithm);
2396  if (factorNums < (int) logarithm)
2397    factorNums= (int) logarithm;
[ccd1b0]2398  CFList* bufAeval2= new CFList [A.level() - 2];
2399  CFList* Aeval2= new CFList [A.level() - 2];
2400  int counter;
2401  int differentSecondVar= 0;
[44651b]2402  // several bivariate factorizations
2403  for (int i= 0; i < factorNums; i++)
[7bf145]2404  {
[ccd1b0]2405    counter= 0;
[7bf145]2406    bufA= A;
2407    bufAeval= CFList();
2408    bufEvaluation= evalPoints (bufA, bufAeval, alpha, list, GF, fail);
[44651b]2409    evalPoly= 0;
[7bf145]2410
[44651b]2411    if (fail && (i == 0))
[7bf145]2412    {
2413      if (!swapLevel)
[44651b]2414        level= 2;
2415      else
2416        level= swapLevel + 1;
[7bf145]2417
[ccd1b0]2418      CanonicalForm g;
2419      swapLevel2= newMainVariableSearch (A, Aeval, evaluation, alpha, level, g);
[7bf145]2420
2421      if (!swapLevel2) // need to pass to an extension
[44651b]2422      {
2423        factors= extFactorize (A, info);
2424        appendSwapDecompress (factors, contentAFactors, N, swapLevel, x);
2425        normalize (factors);
[ccd1b0]2426        delete [] bufAeval2;
2427        delete [] Aeval2;
[44651b]2428        return factors;
[7bf145]2429      }
2430      else
2431      {
[ccd1b0]2432        if (swapLevel2 == -1)
2433        {
2434          CFList factorsG=
2435          Union (multiFactorize (g, info),
2436                 multiFactorize (A/g, info));
2437          appendSwapDecompress (factorsG, contentAFactors, N, swapLevel, x);
2438          normalize (factorsG);
2439          delete [] bufAeval2;
2440          delete [] Aeval2;
2441          return factorsG;
2442        }
[7bf145]2443        fail= false;
2444        bufAeval= Aeval;
2445        bufA= A;
[44651b]2446        bufEvaluation= evaluation;
[7bf145]2447      }
2448    }
2449    else if (fail && (i > 0))
2450      break;
2451
2452    bivarEval= bufEvaluation.getLast();
[ccd1b0]2453
2454    evaluationWRTDifferentSecondVars (bufAeval2, bufEvaluation, A);
2455
[c79a9d]2456    for (int j= 0; j < A.level() - 2; j++)
[ccd1b0]2457    {
2458      if (!bufAeval2[j].isEmpty())
2459        counter++;
2460    }
[7bf145]2461
2462    bufLift= degree (A, y) + 1 + degree (LC(A, x), y);
2463
[978ce3]2464    TIMING_START (fac_fq_bi_factorizer);
[ccd1b0]2465    if (!GF && alpha.level() == 1)
2466      bufBiFactors= FpBiSqrfFactorize (bufAeval.getFirst());
2467    else if (GF)
2468      bufBiFactors= GFBiSqrfFactorize (bufAeval.getFirst());
2469    else
2470      bufBiFactors= FqBiSqrfFactorize (bufAeval.getFirst(), alpha);
[978ce3]2471    TIMING_END_AND_PRINT (fac_fq_bi_factorizer,
[44651b]2472                          "time for bivariate factorization: ");
[ccd1b0]2473    bufBiFactors.removeFirst();
[7bf145]2474
[44651b]2475    if (bufBiFactors.length() == 1)
[7bf145]2476    {
[44651b]2477      if (extension)
[7bf145]2478      {
[44651b]2479        CFList source, dest;
2480        A= mapDown (A, info, source, dest);
[7bf145]2481      }
2482      factors.append (A);
2483      appendSwapDecompress (factors, contentAFactors, N, swapLevel,
[44651b]2484                            swapLevel2, x);
[7bf145]2485      normalize (factors);
[ccd1b0]2486      delete [] bufAeval2;
2487      delete [] Aeval2;
[7bf145]2488      return factors;
2489    }
2490
2491    if (i == 0)
2492    {
2493      Aeval= bufAeval;
2494      evaluation= bufEvaluation;
2495      biFactors= bufBiFactors;
2496      lift= bufLift;
[ccd1b0]2497      for (int j= 0; j < A.level() - 2; j++)
2498        Aeval2 [j]= bufAeval2 [j];
2499      differentSecondVar= counter;
[7bf145]2500    }
2501    else
2502    {
[44651b]2503      if (bufBiFactors.length() < biFactors.length() ||
[ccd1b0]2504          ((bufLift < lift) && (bufBiFactors.length() == biFactors.length())) ||
2505          counter > differentSecondVar)
[7bf145]2506      {
2507        Aeval= bufAeval;
2508        evaluation= bufEvaluation;
2509        biFactors= bufBiFactors;
2510        lift= bufLift;
[ccd1b0]2511        for (int j= 0; j < A.level() - 2; j++)
2512          Aeval2 [j]= bufAeval2 [j];
2513        differentSecondVar= counter;
[7bf145]2514      }
2515    }
2516    int k= 0;
2517    for (CFListIterator j= bufEvaluation; j.hasItem(); j++, k++)
2518      evalPoly += j.getItem()*power (x, k);
[44651b]2519    list.append (evalPoly);
[7bf145]2520  }
2521
[ccd1b0]2522  delete [] bufAeval2;
2523
2524  sortList (biFactors, x);
2525
2526  int minFactorsLength;
2527  bool irred= false;
2528  factorizationWRTDifferentSecondVars (A, Aeval2, info, minFactorsLength, irred);
2529
2530  if (irred)
2531  {
2532    if (extension)
2533    {
2534      CFList source, dest;
2535      A= mapDown (A, info, source, dest);
2536    }
2537    factors.append (A);
2538    appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2539                          swapLevel2, x);
2540    normalize (factors);
2541    delete [] Aeval2;
2542    return factors;
2543  }
2544
2545  if (minFactorsLength == 0)
2546    minFactorsLength= biFactors.length();
2547  else if (biFactors.length() > minFactorsLength)
2548    refineBiFactors (A, biFactors, Aeval2, evaluation, minFactorsLength);
[6036d90]2549  minFactorsLength= tmin (minFactorsLength, biFactors.length());
2550
2551  if (differentSecondVar == A.level() - 2)
2552  {
2553    bool zeroOccured= false;
2554    for (CFListIterator iter= evaluation; iter.hasItem(); iter++)
2555    {
2556      if (iter.getItem().isZero())
2557      {
2558        zeroOccured= true;
2559        break;
2560      }
2561    }
2562    if (!zeroOccured)
2563    {
2564      factors= sparseHeuristic (A, biFactors, Aeval2, evaluation, minFactorsLength);
2565      if (factors.length() == biFactors.length())
2566      {
2567        if (extension)
2568          factors= extNonMonicFactorRecombination (factors, A, info);
2569
2570        appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2571                              swapLevel2, x);
2572        normalize (factors);
2573        delete [] Aeval2;
2574        return factors;
2575      }
2576      else
2577        factors= CFList();
2578      //TODO case where factors.length() > 0
2579    }
2580  }
[ccd1b0]2581
2582  CFList uniFactors= buildUniFactors (biFactors, evaluation.getLast(), y);
2583
[fce807]2584  sortByUniFactors (Aeval2, A.level() - 2, uniFactors, evaluation);
2585
[ccd1b0]2586  CFList * oldAeval= new CFList [A.level() - 2]; //TODO use bufAeval2 for this
2587  for (int i= 0; i < A.level() - 2; i++)
2588    oldAeval[i]= Aeval2[i];
2589
2590  getLeadingCoeffs (A, Aeval2, uniFactors, evaluation);
2591
2592  CFList biFactorsLCs;
2593  for (CFListIterator i= biFactors; i.hasItem(); i++)
2594    biFactorsLCs.append (LC (i.getItem(), 1));
2595
2596  Variable v;
2597  CFList leadingCoeffs= precomputeLeadingCoeff (LC (A, 1), biFactorsLCs, alpha,
2598                                          evaluation, Aeval2, A.level() - 2, v);
2599
2600  if (v.level() != 1)
[7bf145]2601  {
[ccd1b0]2602    A= swapvar (A, y, v);
2603    int i= A.level();
2604    CanonicalForm evalPoint;
2605    for (CFListIterator iter= evaluation; iter.hasItem(); iter++, i--)
2606    {
2607      if (i == v.level())
2608      {
2609        evalPoint= iter.getItem();
2610        iter.getItem()= evaluation.getLast();
2611        evaluation.removeLast();
2612        evaluation.append (evalPoint);
2613        break;
2614      }
2615    }
[8256fd]2616    for (i= 0; i < A.level() - 2; i++)
2617    {
2618      if (oldAeval[i].isEmpty())
2619        continue;
2620      if (oldAeval[i].getFirst().level() == v.level())
2621      {
2622        CFArray tmp= copy (oldAeval[i]);
[753fb61]2623        oldAeval[i]= biFactors;
2624        for (CFListIterator iter= oldAeval[i]; iter.hasItem(); iter++)
2625          iter.getItem()= swapvar (iter.getItem(), v, y);
[8256fd]2626        for (int ii= 0; ii < tmp.size(); ii++)
2627          tmp[ii]= swapvar (tmp[ii], v, y);
2628        CFArray tmp2= CFArray (tmp.size());
2629        CanonicalForm buf;
2630        for (int ii= 0; ii < tmp.size(); ii++)
2631        {
2632          buf= tmp[ii] (evaluation.getLast(),y);
2633          buf /= Lc (buf);
2634          tmp2[findItem (uniFactors, buf)-1]=tmp[ii];
2635        }
2636        biFactors= CFList();
2637        for (int j= 0; j < tmp2.size(); j++)
2638          biFactors.append (tmp2[j]);
2639      }
2640    }
[7bf145]2641  }
[ccd1b0]2642
[eefc3a]2643  CFListIterator iter;
[ccd1b0]2644  CanonicalForm oldA= A;
2645  CFList oldBiFactors= biFactors;
2646  if (!leadingCoeffs.getFirst().inCoeffDomain())
2647  {
2648    CanonicalForm tmp= power (leadingCoeffs.getFirst(), biFactors.length() - 1);
2649    A *= tmp;
2650    tmp= leadingCoeffs.getFirst();
[eefc3a]2651    iter= evaluation;
2652    for (int i= A.level(); i > 2; i--, iter++)
2653      tmp= tmp (iter.getItem(), i);
[ccd1b0]2654    if (!tmp.inCoeffDomain())
2655    {
2656      for (CFListIterator i= biFactors; i.hasItem(); i++)
2657      {
2658        i.getItem() *= tmp/LC (i.getItem(), 1);
2659        i.getItem() /= Lc (i.getItem());
2660      }
2661    }
2662  }
2663
2664  leadingCoeffs.removeFirst();
2665
2666  //prepare leading coefficients
2667  CFList* leadingCoeffs2= new CFList [A.level() - 2];
[eefc3a]2668  prepareLeadingCoeffs (leadingCoeffs2, A.level(), leadingCoeffs, biFactors,
2669                        evaluation);
2670
2671  Aeval= evaluateAtEval (A, evaluation, 2);
2672  CanonicalForm hh= Lc (Aeval.getFirst());
2673  for (iter= Aeval; iter.hasItem(); iter++)
2674    iter.getItem() /= hh;
2675
2676  A /= hh;
2677
[5079887]2678  CFList bufFactors= CFList();
2679  if (LucksWangSparseHeuristic (A, biFactors, 2, leadingCoeffs2 [A.level() - 3],
2680                                 factors))
[4fe8a3]2681  {
[5079887]2682    int check= biFactors.length();
2683    int * index= new int [factors.length()];
2684    CFList oldFactors= factors;
2685    factors= recoverFactors (A, factors, index);
[4fe8a3]2686
2687    if (check == factors.length())
2688    {
2689      if (extension)
2690        factors= extNonMonicFactorRecombination (factors, A, info);
2691
[dc390c]2692      if (v.level() != 1)
2693      {
[5079887]2694        for (iter= factors; iter.hasItem(); iter++)
[dc390c]2695          iter.getItem()= swapvar (iter.getItem(), v, y);
2696      }
[5079887]2697
[4fe8a3]2698      appendSwapDecompress (factors, contentAFactors, N, swapLevel,
2699                            swapLevel2, x);
2700      normalize (factors);
[5079887]2701      delete [] index;
[4fe8a3]2702      delete [] Aeval2;
2703      return factors;
2704    }
[5079887]2705    else if (factors.length() > 0)
2706    {
2707      int oneCount= 0;
2708      CFList l;
2709      for (int i= 0; i < check; i++)
2710      {
2711        if (index[i] == 1)
2712        {
2713          iter=biFactors;
2714          for (int j=1; j <= i-oneCount; j++)
2715            iter++;
2716          iter.remove (1);
2717          for (int j= 0; j < A.level() -2; j++)
2718          {
2719            l= leadingCoeffs2[j];
2720            iter= l;
2721            for (int k=1; k <= i-oneCount; k++)
2722              iter++;
2723            iter.remove (1);
2724            leadingCoeffs2[j]=l;
2725          }
2726          oneCount++;
2727        }
2728      }
2729      bufFactors= factors;
2730      factors= CFList();
2731    }
[4fe8a3]2732    else
2733      factors= CFList();
[5079887]2734    delete [] index;
[4fe8a3]2735  }
2736
[eefc3a]2737  A= shift2Zero (A, Aeval, evaluation);
2738
2739  for (iter= biFactors; iter.hasItem(); iter++)
2740    iter.getItem()= iter.getItem () (y + evaluation.getLast(), y);
2741
[464b18]2742  for (int i= 0; i < A.level() - 3; i++)
2743    leadingCoeffs2[i]= CFList();
[eefc3a]2744  for (iter= leadingCoeffs2[A.level() - 3]; iter.hasItem(); iter++)
2745  {
2746    iter.getItem()= shift2Zero (iter.getItem(), list, evaluation);
2747    for (int i= A.level() - 4; i > -1; i--)
2748    {
2749      if (i + 1 == A.level() - 3)
2750        leadingCoeffs2[i].append (iter.getItem() (0, i + 4));
2751      else
2752        leadingCoeffs2[i].append (leadingCoeffs2[i+1].getLast() (0, i + 4));
2753    }
2754  }
[ccd1b0]2755
2756  CFArray Pi;
2757  CFList diophant;
2758  int* liftBounds= new int [A.level() - 1];
2759  int liftBoundsLength= A.level() - 1;
2760  for (int i= 0; i < liftBoundsLength; i++)
2761    liftBounds [i]= degree (A, i + 2) + 1;
2762
2763  Aeval.removeFirst();
2764  bool noOneToOne= false;
2765  factors= nonMonicHenselLift (Aeval, biFactors, leadingCoeffs2, diophant,
2766                               Pi, liftBounds, liftBoundsLength, noOneToOne);
2767
2768  if (!noOneToOne)
[7bf145]2769  {
[ccd1b0]2770    int check= factors.length();
[eefc3a]2771    A= oldA;
[c79a9d]2772    factors= recoverFactors (A, factors, evaluation);
[ccd1b0]2773    if (check != factors.length())
2774      noOneToOne= true;
[5079887]2775    else
2776      factors= Union (factors, bufFactors);
[ccd1b0]2777
2778    if (extension && !noOneToOne)
[c79a9d]2779      factors= extNonMonicFactorRecombination (factors, A, info);
[7bf145]2780  }
[ccd1b0]2781  if (noOneToOne)
2782  {
[eefc3a]2783    A= shift2Zero (oldA, Aeval, evaluation);
[ccd1b0]2784    biFactors= oldBiFactors;
[eefc3a]2785    for (iter= biFactors; iter.hasItem(); iter++)
2786      iter.getItem()= iter.getItem () (y + evaluation.getLast(), y);
[ccd1b0]2787    CanonicalForm LCA= LC (Aeval.getFirst(), 1);
2788    CanonicalForm yToLift= power (y, lift);
2789    CFListIterator i= biFactors;
2790    lift= degree (i.getItem(), 2) + degree (LC (i.getItem(), 1)) + 1;
2791    i++;
[7bf145]2792
[ccd1b0]2793    for (; i.hasItem(); i++)
2794      lift= tmax (lift, degree (i.getItem(), 2) + degree (LC (i.getItem(), 1)) + 1);
2795
2796    lift= tmax (degree (Aeval.getFirst() , 2) + 1, lift);
2797
2798    i= biFactors;
2799    yToLift= power (y, lift);
2800    CanonicalForm dummy;
2801    for (; i.hasItem(); i++)
2802    {
2803      LCA= LC (i.getItem(), 1);
2804      extgcd (LCA, yToLift, LCA, dummy);
2805      i.getItem()= mod (i.getItem()*LCA, yToLift);
2806    }
2807
2808    liftBoundsLength= F.level() - 1;
2809    liftBounds= liftingBounds (A, lift);
2810
2811    CFList MOD;
2812    bool earlySuccess;
[0b618a7]2813    CFList earlyFactors, liftedFactors;
[978ce3]2814    TIMING_START (fac_fq_hensel_lift);
[0b618a7]2815    liftedFactors= henselLiftAndEarly
2816                   (A, MOD, liftBounds, earlySuccess, earlyFactors,
2817                    Aeval, biFactors, evaluation, info);
[978ce3]2818    TIMING_END_AND_PRINT (fac_fq_hensel_lift, "time for hensel lifting: ");
[ccd1b0]2819
2820    if (!extension)
2821    {
[978ce3]2822      TIMING_START (fac_fq_factor_recombination);
[ccd1b0]2823      factors= factorRecombination (A, liftedFactors, MOD);
[978ce3]2824      TIMING_END_AND_PRINT (fac_fq_factor_recombination,
[ccd1b0]2825                            "time for factor recombination: ");
2826    }
2827    else
2828    {
[978ce3]2829      TIMING_START (fac_fq_factor_recombination);
[ccd1b0]2830      factors= extFactorRecombination (liftedFactors, A, MOD, info, evaluation);
[978ce3]2831      TIMING_END_AND_PRINT (fac_fq_factor_recombination,
[ccd1b0]2832                            "time for factor recombination: ");
2833    }
2834
2835    if (earlySuccess)
2836      factors= Union (factors, earlyFactors);
[c79a9d]2837    if (!extension)
[7bf145]2838    {
[c79a9d]2839      for (CFListIterator i= factors; i.hasItem(); i++)
[7bf145]2840      {
[c79a9d]2841        int kk= Aeval.getLast().level();
2842        for (CFListIterator j= evaluation; j.hasItem(); j++, kk--)
2843        {
2844          if (i.getItem().level() < kk)
2845            continue;
2846          i.getItem()= i.getItem() (Variable (kk) - j.getItem(), kk);
2847        }
[7bf145]2848      }
2849    }
2850  }
2851
[ccd1b0]2852  if (v.level() != 1)
2853  {
2854    for (CFListIterator iter= factors; iter.hasItem(); iter++)
2855      iter.getItem()= swapvar (iter.getItem(), v, y);
2856  }
2857
[44651b]2858  swap (factors, swapLevel, swapLevel2, x);
[7bf145]2859  append (factors, contentAFactors);
2860  decompress (factors, N);
2861  normalize (factors);
2862
2863  delete[] liftBounds;
2864
2865  return factors;
2866}
2867
2868/// multivariate factorization over an extension of the initial field
[44651b]2869CFList
2870extFactorize (const CanonicalForm& F, const ExtensionInfo& info)
[7bf145]2871{
2872  CanonicalForm A= F;
2873
2874  Variable alpha= info.getAlpha();
2875  Variable beta= info.getBeta();
2876  int k= info.getGFDegree();
2877  char cGFName= info.getGFName();
2878  CanonicalForm delta= info.getDelta();
2879  bool GF= (CFFactory::gettype() == GaloisFieldDomain);
2880  Variable w= Variable (1);
2881
2882  CFList factors;
2883  if (!GF && alpha == w)  // we are in F_p
2884  {
2885    CFList factors;
[44651b]2886    bool extension= true;
[7bf145]2887    int p= getCharacteristic();
2888    if (p*p < (1<<16)) // pass to GF if possible
[44651b]2889    {
[7bf145]2890      setCharacteristic (getCharacteristic(), 2, 'Z');
2891      ExtensionInfo info= ExtensionInfo (extension);
2892      A= A.mapinto();
2893      factors= multiFactorize (A, info);
2894
[0a7d0ca]2895      CanonicalForm mipo= gf_mipo;
[7bf145]2896      setCharacteristic (getCharacteristic());
[0a7d0ca]2897      Variable vBuf= rootOf (mipo.mapinto());
[44651b]2898      for (CFListIterator j= factors; j.hasItem(); j++)
2899        j.getItem()= GF2FalphaRep (j.getItem(), vBuf);
[7bf145]2900    }
2901    else  // not able to pass to GF, pass to F_p(\alpha)
2902    {
[a54114]2903      CanonicalForm mipo= randomIrredpoly (2, w);
[11bf82]2904      Variable v= rootOf (mipo);
[ccd1b0]2905      ExtensionInfo info= ExtensionInfo (v);
[7bf145]2906      factors= multiFactorize (A, info);
2907    }
2908    return factors;
2909  }
2910  else if (!GF && (alpha != w)) // we are in F_p(\alpha)
[44651b]2911  {
[7bf145]2912    if (k == 1) // need factorization over F_p
2913    {
2914      int extDeg= degree (getMipo (alpha));
[44651b]2915      extDeg++;
[a54114]2916      CanonicalForm mipo= randomIrredpoly (extDeg + 1, w);
[7bf145]2917      Variable v= rootOf (mipo);
2918      ExtensionInfo info= ExtensionInfo (v);
[4e17e7]2919      factors= multiFactorize (A, info);
[7bf145]2920    }
[44651b]2921    else
[7bf145]2922    {
[a54114]2923      if (beta == w)
[7bf145]2924      {
[11bf82]2925        Variable v= chooseExtension (alpha, beta, k);
[7bf145]2926        CanonicalForm primElem, imPrimElem;
2927        bool primFail= false;
2928        Variable vBuf;
2929        primElem= primitiveElement (alpha, vBuf, primFail);
2930        ASSERT (!primFail, "failure in integer factorizer");
2931        if (primFail)
2932          ; //ERROR
2933        else
[ccd1b0]2934          imPrimElem= mapPrimElem (primElem, vBuf, v);
[7bf145]2935
2936        CFList source, dest;
[44651b]2937        CanonicalForm bufA= mapUp (A, alpha, v, primElem, imPrimElem,
[7bf145]2938                                   source, dest);
2939        ExtensionInfo info= ExtensionInfo (v, alpha, imPrimElem, primElem);
[4e17e7]2940        factors= multiFactorize (bufA, info);
[7bf145]2941      }
2942      else
2943      {
[11bf82]2944        Variable v= chooseExtension (alpha, beta, k);
[7bf145]2945        CanonicalForm primElem, imPrimElem;
2946        bool primFail= false;
2947        Variable vBuf;
2948        ASSERT (!primFail, "failure in integer factorizer");
2949        if (primFail)
2950          ; //ERROR
2951        else
[618da5]2952          imPrimElem= mapPrimElem (delta, beta, v);
[7bf145]2953
2954        CFList source, dest;
2955        CanonicalForm bufA= mapDown (A, info, source, dest);
2956        source= CFList();
2957        dest= CFList();
2958        bufA= mapUp (bufA, beta, v, delta, imPrimElem, source, dest);
2959        ExtensionInfo info= ExtensionInfo (v, beta, imPrimElem, delta);
[4e17e7]2960        factors= multiFactorize (bufA, info);
[7bf145]2961      }
2962    }
2963    return factors;
2964  }
2965  else // we are in GF (p^k)
[44651b]2966  {
[7bf145]2967    int p= getCharacteristic();
2968    int extensionDeg= getGFDegree();
2969    bool extension= true;
2970    if (k == 1) // need factorization over F_p
[44651b]2971    {
[7bf145]2972      extensionDeg++;
[44651b]2973      if (pow ((double) p, (double) extensionDeg) < (1<<16))
[7bf145]2974      // pass to GF(p^k+1)
[44651b]2975      {
[0a7d0ca]2976        CanonicalForm mipo= gf_mipo;
[7bf145]2977        setCharacteristic (p);
[0a7d0ca]2978        Variable vBuf= rootOf (mipo.mapinto());
[44651b]2979        A= GF2FalphaRep (A, vBuf);
2980        setCharacteristic (p, extensionDeg, 'Z');
[7bf145]2981        ExtensionInfo info= ExtensionInfo (extension);
[44651b]2982        factors= multiFactorize (A.mapinto(), info);
[7bf145]2983      }
2984      else // not able to pass to another GF, pass to F_p(\alpha)
[44651b]2985      {
[0a7d0ca]2986        CanonicalForm mipo= gf_mipo;
[44651b]2987        setCharacteristic (p);
[0a7d0ca]2988        Variable vBuf= rootOf (mipo.mapinto());
[44651b]2989        A= GF2FalphaRep (A, vBuf);
[11bf82]2990        Variable v= chooseExtension (vBuf, beta, k);
[7bf145]2991        ExtensionInfo info= ExtensionInfo (v, extension);
[44651b]2992        factors= multiFactorize (A, info);
[7bf145]2993      }
2994    }
2995    else // need factorization over GF (p^k)
2996    {
[44651b]2997      if (pow ((double) p, (double) 2*extensionDeg) < (1<<16))
[7bf145]2998      // pass to GF(p^2k)
[44651b]2999      {
3000        setCharacteristic (p, 2*extensionDeg, 'Z');
[7bf145]3001        ExtensionInfo info= ExtensionInfo (k, cGFName, extension);
[44651b]3002        factors= multiFactorize (GFMapUp (A, extensionDeg), info);
3003        setCharacteristic (p, extensionDeg, cGFName);
[7bf145]3004      }
3005      else // not able to pass to GF (p^2k), pass to F_p (\alpha)
[44651b]3006      {
[0a7d0ca]3007        CanonicalForm mipo= gf_mipo;
[44651b]3008        setCharacteristic (p);
[0a7d0ca]3009        Variable v1= rootOf (mipo.mapinto());
[44651b]3010        A= GF2FalphaRep (A, v1);
[11bf82]3011        Variable v2= chooseExtension (v1, v1, k);
[7bf145]3012        CanonicalForm primElem, imPrimElem;
3013        bool primFail= false;
3014        Variable vBuf;
[11bf82]3015        primElem= primitiveElement (v1, v1, primFail);
[7bf145]3016        if (primFail)
3017          ; //ERROR
3018        else
[618da5]3019          imPrimElem= mapPrimElem (primElem, v1, v2);
[7bf145]3020        CFList source, dest;
[618da5]3021        CanonicalForm bufA= mapUp (A, v1, v2, primElem, imPrimElem,
[7bf145]3022                                     source, dest);
3023        ExtensionInfo info= ExtensionInfo (v2, v1, imPrimElem, primElem);
[44651b]3024        factors= multiFactorize (bufA, info);
3025        setCharacteristic (p, k, cGFName);
3026        for (CFListIterator i= factors; i.hasItem(); i++)
3027          i.getItem()= Falpha2GFRep (i.getItem());
[7bf145]3028      }
3029    }
3030    return factors;
3031  }
3032}
3033
3034#endif
3035/* HAVE_NTL */
3036
Note: See TracBrowser for help on using the repository browser.