“[解决]内存用完循环函数”

奥利奥利 成员职位:6因素二世
2019年6月编辑 帮助
你好,

我有一个问题与内存的数量我的代码使用下面。我只有一台相当低规格的电脑,只有大约2gb的备用内存,所以我知道我是有限的。

在我的数据集中,我想通过大约14,000个例子,使用大约50,000行原始数据来找到K-NN。

目前,在内存耗尽之前,我只能做大约250个样本的批量。我在论坛上看了一下,尝试了一些不同的东西,但似乎没有减少我使用的内存。

我有点不确定为什么它使用这么多内存,因为一旦它循环并获得一个例子的K-NN预测,并存储结果,这样它就可以将其写入excel文件,它可以忘记其他信息,如模型等…

任何帮助都将非常感谢指出我在正确的方向上阅读这一点。

谢谢,

奥利
<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<过程version = " 5.3.008 " >
> <上下文
<输入/ >
<输出/ >
<宏/ >
> < /上下文
.
<过程扩展= " true " >

.
< /操作符>


<过程扩展= " true " >

.
< /操作符>


/> .
.
< /操作符>


/> .

<列出关键= " application_parameters " / >
< /操作符>

/> .

.




.
.
> < /过程
< /操作符>




< /操作符>
/> . .

.
> < /过程
< /操作符>
> < /过程
标记:

答案

  • 奥利奥利 成员职位:6因素二世
    你好,

    我认为我通过使用空闲内存和物化数据操作符找到了解决方案。使用这些函数似乎可以降低内存。我做了一些测试,以确保数据没有变化,我的样本似乎没问题。

    我已经把代码粘贴在下面,如果有人看到任何问题,我很有兴趣知道。

    谢谢,

    奥利
    <?xml version="1.0" encoding="UTF-8" standalone="no"?>
    <过程version = " 5.3.008 " >
    > <上下文
    <输入/ >
    <输出/ >
    <宏/ >
    > < /上下文
    .
    <过程扩展= " true " >


    .
    < /操作符>


    <过程扩展= " true " >

    .
    < /操作符>


    /> .

    .
    < /操作符>


    /> .

    <列出关键= " application_parameters " / >
    < /操作符>


    /> .

    .


    /> .

    .
    .
    > < /过程
    < /操作符>



    .
    < /操作符>
    /> . .

    .
    > < /过程
    < /操作符>
    > < /过程
登录注册置评。