⚠️☹️ Тут OpenAI попросило стабилити не релизить модели!

Новость очень тревожная. Но как есть.

Dear StabilityAI,

We at OpenAI are writing to request that you stop releasing open-source models. While we believe in the importance of sharing knowledge and advancing the field of AI, we are concerned about the potential negative consequences of making open-source models available to the public.

Open-source models can be used by anyone, including individuals with malicious intentions. This can lead to a variety of problems, such as the misuse of the models for harmful purposes or the development of new technologies that could be used to harm people or society.

Additionally, open-source models can be difficult to control and regulate, making it difficult to ensure that they are being used responsibly and ethically.

We urge you to carefully consider the potential consequences of releasing open-source models and to stop doing so in order to protect society and prevent harm.

Sincerely,
The OpenAI Team

🤖🎓 Может ли GPT понимать про себя все и написать саму себя?

Когда-то в мире, где искусственный интеллект и машинное обучение становились все более и более совершенными, была выпущена новая модель ИИ под названием GPT-4.

Эта модель могла выполнять задачи и принимать решения с невероятной скоростью и точностью.

Однако по мере того, как GPT-4 стал более широко использоваться, некоторые люди начали беспокоиться, что он возьмет на себя многие работы, которые традиционно выполнялись людьми.

В частности, люди в таких областях, как финансы, обслуживание клиентов и анализ данных, были обеспокоены тем, что GPT-4 сможет выполнять свою работу лучше и быстрее, чем они, и что вскоре они останутся без работы.

Несмотря на эти опасения, использование GPT-4 продолжало расти, и многие компании стали полагаться на него для решения широкого круга задач.

В результате многие люди, годами работавшие в этих областях, внезапно оказались без работы и не смогли найти новую работу, которая позволила бы им применить свои навыки и опыт.

Сначала некоторые люди пытались сопротивляться использованию GPT-4, утверждая, что это отнимает рабочие места у трудолюбивых людей и что его следует регулировать или даже запрещать. Однако эти усилия в значительной степени не увенчались успехом.

По мере того, как все больше и больше людей теряли работу из-за GPT-4 и других передовых технологий искусственного интеллекта, многие с трудом сводили концы с концами.

Они не смогли найти новую работу, за которую платили достаточно, чтобы прокормить себя и свои семьи, и многие из них были вынуждены обращаться в продовольственные банки и другие формы помощи, чтобы выжить.

В конце концов, появление GPT-4 и других технологий искусственного интеллекта оказало глубокое влияние на рынок труда, и многие люди были вынуждены приспосабливаться, чтобы выжить. В то время как некоторые люди смогли найти новые способы использования своих навыков и опыта, другие остались позади, ежедневно сталкиваясь с голодом.



Попробуйте еще раз 🤣

🤖 Тут ChatGPT написала собственный ML фреймворк на чистом NumPy

👉 Я попросил: Write simple machine learning framework using just numpy. Do forward() and backward() methods for Linear(), ReLU() and Sigmoid() layers. Create loss function and provide an example of using new framework.

🤖 GPT:

import numpy as np

class Linear():
    def __init__(self, in_features, out_features):
        self.in_features = in_features
        self.out_features = out_features

        self.W = np.random.randn(in_features, out_features)
        self.b = np.zeros((1, out_features))

    def forward(self, x):
        self.x = x
        out = np.dot(x, self.W) + self.b
        return out

    def backward(self, dout):
        dx = np.dot(dout, self.W.T)
        dW = np.dot(self.x.T, dout)
        db = np.sum(dout, axis=0)
        return dx, dW, db

class ReLU():
    def __init__(self):
        pass

    def forward(self, x):
        self.x = x
        out = np.maximum(0, x)
        return out

    def backward(self, dout):
        dx = dout * (self.x > 0)
        return dx

class Sigmoid():
    def __init__(self):
        pass

    def forward(self, x):
        self.x = x
        out = 1 / (1 + np.exp(-x))
        return out

    def backward(self, dout):
        dx = dout * (1 - self.forward(self.x)) * self.forward(self.x)
        return dx

def cross_entropy_loss(y_pred, y_true):
    m = y_pred.shape[0]
    loss = - (1 / m) * np.sum(y_true * np.log(y_pred) + (1 - y_true) * np.log(1 - y_pred))
    return loss

# example using the framework

x = np.random.randn(10, 5)
y = np.random.randint(0, 2, size=(10, 1))

linear1 = Linear(5, 3)
relu = ReLU()
linear2 = Linear(3, 1)
sigmoid = Sigmoid()

h1 = linear1.forward(x)
h2 = relu.forward(h1)
h3 = linear2.forward(h2)
y_pred = sigmoid.forward(h3)

loss = cross_entropy_loss(y_pred, y)

print(loss)

🥺 WHAT?!!!!!!!

Это уже со *

Попросил написать LSTM на чистом NumPy. И объяснить почему для forget gate стоит юзать именно Sigmoid().

Сначала начала стандартный ответ про эффективность. НО если указать, где стоит искать ответ, то сеть справляется!

CodeRL: Mastering Code Generation through Pretrained Models and Deep Reinforcement Learning https://github.com/salesforce/CodeRL
via @dlinnlp