Changeset ec223c in git

Timestamp:

Mar 7, 2024, 4:40:08 PM (2 months ago)

Author:

Hans Schoenemann <hannes@…>

Branches:

(u'spielwiese', '38dfc5131670d387a89455159ed1e071997eec94')

Children:

9b100cf2c033af852a72272e1eeb8a3a17aa4a86

Parents:

d2ca037eda294f5a9081d6aab115683a0a1aa3e7

Message:

fix: handle Q!=NULL, IDELEMS(Q)==0

Location:

kernel/GBEngine

Files:

• kstd1.cc (modified) (3 diffs)
• kutil.cc (modified) (5 diffs)

kernel/GBEngine/kstd1.cc

@@ -2247 +2247 @@
   omFree(strat->R);
 
-  if ((Q!=NULL)&&(strat->fromQ!=NULL))
-  {
-    i=((IDELEMS(Q)+IDELEMS(F)+15)/16)*16;
-    omFreeSize((ADDRESS)strat->fromQ,i*sizeof(int));
-    strat->fromQ=NULL;
-  }
+  omfree((ADDRESS)strat->fromQ);
+  strat->fromQ=NULL;
   if (strat->kNoether!=NULL) pLmFree(&strat->kNoether);
 //  if ((TEST_OPT_WEIGHTM)&&(F!=NULL))
@@ -2399 +2395 @@
   omFree(strat->S_2_R);
   omFree(strat->R);
-  if ((Q!=NULL)&&(strat->fromQ!=NULL))
-  {
-    i=((IDELEMS(F)+IDELEMS(Q)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
-    omFreeSize((ADDRESS)strat->fromQ,i*sizeof(int));
-    strat->fromQ=NULL;
-  }
+  omfree((ADDRESS)strat->fromQ);
+  strat->fromQ=NULL;
   if (strat->kNoether!=NULL) pLmFree(&strat->kNoether);
 //  if ((TEST_OPT_WEIGHTM)&&(F!=NULL))
@@ -3539 +3531 @@
   if (strat->fromQ)
   {
+    omfree(strat-fromQ);
     strat->fromQ=NULL;
     ideal res=kInterRed(shdl,NULL);

kernel/GBEngine/kutil.cc

@@ -7639 +7639 @@
   if (Q!=NULL) i=((IDELEMS(F)+IDELEMS(Q)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
   else         i=((IDELEMS(F)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
+  if (i<setmaxTinc) i=setmaxT;
   strat->ecartS=initec(i);
   strat->sevS=initsevS(i);
@@ -7731 +7732 @@
   int   i,pos;
 
-  if (Q!=NULL) i=((IDELEMS(Q)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
+  if (Q!=NULL)
+  {
+    i=((IDELEMS(Q)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
+    if (i<setmaxTinc) i=setmaxT;
+  }
   else i=setmaxT;
   strat->ecartS=initec(i);
@@ -7827 +7832 @@
 {
   int   i,pos;
-  if (Q!=NULL) i=((IDELEMS(Q)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
+  if (Q!=NULL)
+  {
+    i=((IDELEMS(Q)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
+    if (i<setmaxTinc) i=setmaxT;
+  }
   else i=setmaxT;
   strat->ecartS =   initec(i);
@@ -8133 +8142 @@
   int   i,pos;
 
-  if (Q!=NULL) i=((IDELEMS(Q)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
+  if (Q!=NULL)
+  {
+    i=((IDELEMS(Q)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
+    if (i<setmaxTinc) i=setmaxT;
+  }
   else i=setmaxT;
   i=((i+IDELEMS(F)+IDELEMS(P)+setmax-1)/setmax)*setmax;
@@ -8277 +8290 @@
   int   i,pos;
 
-  if (Q!=NULL) i=((IDELEMS(Q)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
+  if (Q!=NULL)
+  {
+    i=((IDELEMS(Q)+(setmaxTinc-1))/setmaxTinc)*setmaxTinc;
+    if (i<setmaxTinc) i=setmaxT;
+  }
   else i=setmaxT;
   i=((i+IDELEMS(F)+IDELEMS(P)+setmax-1)/setmax)*setmax;