基于启发式方法的只利用目标函数值信息的无约束优化方法，如坐标轮换法、鲍威尔法，称为直接搜索法。因为直接搜索法既不需要计算也不要逼近导数，他们常常被描述成“导数无关”。而另一类利用目标函数的一阶或二阶导数信息的无约束优化方法，如梯度法、牛顿法、共轭梯度法、变尺度法，称为间接搜索法。